Rețele neuronale și deep learning

Cursul 11 · Joc: Ce variabilă a determinat decizia?

Ce variabilă a determinat decizia?

Rețeaua unei bănci a aprobat sau a respins o cerere reală de credit garantat cu locuința. Pentru fiecare dintre cei 8 solicitanți vedeți dosarul și decizia rețelei și alegeți, dintre patru variabile, pe cea care a împins cel mai mult această decizie. Apoi vedeți răspunsul SHAP (SHapley Additive exPlanations, Kernel SHAP) și dacă LIME (local interpretable model-agnostic explanations, explicații locale interpretabile, independente de model) este de acord.

Rețeaua este perceptronul multistrat (MLP) din cursul 11, antrenat pe alte 3.576 de credite (aria de sub curba ROC, receiver operating characteristic, AUC, 0,937 pe creditele de test); respinge un credit cînd probabilitatea de neplată este de cel puțin 50 %. Răspunsul corect este varianta cu cea mai mare contribuție Kernel SHAP, în valoare absolută, la log-șansele de neplată; răspunsul LIME este varianta cu cea mai mare valoare absolută a produsului dintre panta LIME și valoarea standardizată. Ambele explicații au fost calculate cu setările din curs.

Clasamentul sălii, pentru proiector

Date: creditele HMEQ garantate cu locuința (Baesens, Roesch și Scheule, 2016; 5.960 de credite). Cei 30 de solicitanți din joc sînt extrași aleator dintre solicitanții de test explicați în curs (12 respinși și 18 aprobați de rețea; sămînța 20261108); fiecare joc extrage 8 dintre ei. Kernel SHAP și comparația între valorile inițiale provin din rezultatele salvate ale cursului; LIME este recalculat cu setările din curs (5.000 de eșantioane, lățimea implicită a nucleului, sămînța 0). Cod: lectures/L11/make_game_L11.py.