Regolamento UE sull'IA per i servizi finanziari: valutazione del credito e AI assicurativa

Quale AI finanziaria è ad alto rischio

L'Allegato III punto 5 elenca due casi d'uso dei servizi finanziari in modo esplicito:

• Punto 5(b) — valutazione della credibilità e valutazione del credito. L'IA utilizzata per valutare la credibilità di persone fisiche o per stabilire il loro punteggio di credito è ad alto rischio, con un'esenzione per l'AI utilizzata per rilevare la frode finanziaria.
• Punto 5(c) — assicurazione. L'IA utilizzata per la valutazione e la determinazione del prezzo del rischio in relazione a persone fisiche per le assicurazioni sulla vita e sulla salute è ad alto rischio.
• Nota di portata. L'etichetta di alto rischio si attacca alle decisioni relative a persone fisiche. La rilevazione della frode pura e la gestione dei modelli prudenziali che non decidono l'accesso individuale al credito o all'assicurazione si trovano al di fuori di questi due punti.

Classifichi ogni modello contro l'Allegato III punto 5 individualmente — una singola piattaforma di prestiti può eseguire sia modelli di valutazione del credito in scope che modelli di rilevamento della frode out of scope.

Interazione con la regolamentazione finanziaria esistente

Le società finanziarie sono già soggette a una regolamentazione pesante; il Regolamento sull'IA si posiziona accanto ad essa, non al suo posto.

Il Regolamento coordina con la legge di settore: per le istituzioni creditizie, i doveri di governance interna e gestione del rischio ai sensi del CRD (e del quadro Basel che implementa) possono ospitare gli obblighi di gestione del rischio dell'Articolo 9 del Regolamento sull'IA, e il Regolamento sull'IA consente che questi siano costruiti nei processi interni esistenti piuttosto che essere duplicati. Quando le società forniscono servizi di investimento, i doveri di idoneità e tenuta dei registri di MiFID II si sovrappongono con la registrazione e la supervisione del Regolamento sull'IA. L'Autorità bancaria europea e altri supervisori continuano a emanare linee guida sulla governance dei modelli e sull'uso dell'IA, che complementano — ma non scaricano — la conformità al Regolamento sull'IA.

Mappi ogni obbligo del Regolamento sull'IA sul controllo di settore che già lo copre in modo che estenda un unico framework di governance invece di eseguirne due.

Spiegabilità e giustificazione dell'azione avversa

Un richiedente rifiutato chiederà il perché — e il Regolamento fornisce loro un percorso per una risposta:

• Articolo 86 — diritto a una spiegazione. Una persona soggetta a una decisione ad alto rischio che produce effetti giuridici o simili (come un prestito rifiutato) ha il diritto a una spiegazione chiara e significativa del ruolo dell'IA in quella decisione.
• Articolo 13 — trasparenza per i deployer. Il prestatore o l'assicuratore che utilizza il modello deve ricevere informazioni sufficienti per interpretare il suo output e utilizzarlo correttamente.
• Articolo 14 — supervisione umana. Una persona deve essere in grado di esaminare e annullare una decisione di credito o di underwriting automatizzata, non solo approvarla.
• Articolo 12 — registrazione. Gli input e il ragionamento dietro ogni decisione devono essere registrati in modo che una giustificazione dell'azione avversa possa essere ricostruita per il cliente e l'auditor.