Reglementările cer explicarea deciziilor automate
Slide-ul 6 în PDFTrei texte definesc practica europeană. Regulamentul privind inteligența artificială (Regulamentul 2024/1689) include evaluarea bonității persoanelor fizice printre utilizările cu risc ridicat (anexa III), cere furnizorilor să facă sistemul transparent pentru cei care îl folosesc (articolul 13) și dă persoanei afectate de o decizie dreptul la explicarea rolului pe care sistemul l-a avut (articolul 86). GDPR, prin articolul 22 și considerentul 71, adaugă garanții față de deciziile bazate exclusiv pe prelucrarea automată. Ghidul Autorității Bancare Europene (EBA) privind acordarea și monitorizarea creditelor (2020) cere ca modelele folosite în decizia de creditare să poată fi explicate. În afara UE, ghidul de supraveghere al Federal Reserve privind riscul de model (SR 11-7) cere fundamentare conceptuală, validare independentă și monitorizare continuă pentru orice model.
Există și motive de afaceri: explicațiile scot la iveală scurgerile de informație (o variabilă care nu ar trebui să fie acolo), îi ajută pe analiștii de credit să aibă încredere în scor și permit băncii să îi spună clientului de ce răspunsul a fost negativ. Precauția străbate tot cursul: o explicație care se schimbă fără ca ceva important să se schimbe este un risc de conformitate, nu o garanție.



NN_L11_shap_global











