Règlement UE sur l'IA pour les services financiers : notation de crédit et IA d'assurance

Quel AI des services financiers est à haut risque

L'annexe III, point 5, répertorie deux cas d'utilisation des services financiers explicitement :

• Point 5(b) — solvabilité et notation de crédit. L'IA utilisée pour évaluer la solvabilité d'une personne physique ou établir son score de crédit est à haut risque, avec une exception pour l'IA utilisée pour détecter la fraude financière.
• Point 5(c) — assurance. L'IA utilisée pour l'évaluation et la tarification des risques dans les assurances-vie et les assurances-santé pour les personnes physiques est à haut risque.
• Note de portée. L'étiquette de haut risque s'attache aux décisions concernant les personnes physiques. La détection de fraude purement back-office et l'utilisation de modèles prudentiels qui n'affectent pas l'accès individuel au crédit ou à l'assurance se situent en dehors de ces deux points.

Classez chaque modèle contre l'annexe III, point 5, individuellement — une seule plate-forme de prêt peut exécuter à la fois des modèles de notation à haut risque et des modèles de détection de fraude à faible risque.

Interaction avec la réglementation financière existante

Les entreprises financières sont déjà lourdement réglementées ; le règlement sur l'IA se situe aux côtés, et non à la place, de cette pile.

Le règlement coordonne avec la législation sectorielle : pour les établissements de crédit, les devoirs de gouvernance interne et de gestion des risques en vertu du CRD (et du cadre Bâle qu'il met en œuvre) peuvent accueillir les obligations de gestion des risques de l'article 9 du règlement sur l'IA, et le règlement UE sur l'IA permet que celles-ci soient intégrées aux processus internes existants plutôt que dupliquées. Lorsque les entreprises fournissent des services d'investissement, les devoirs de convenance et de conservation des enregistrements de MiFID II se chevauchent avec la journalisation et la surveillance de l'IA. L'Autorité bancaire européenne et d'autres superviseurs continuent d'émettre des orientations sur la gouvernance des modèles et l'utilisation de l'IA, qui complètent — mais ne déchargent pas — la conformité au règlement sur l'IA.

Mappez chaque obligation du règlement sur l'IA au contrôle sectoriel qui la couvre déjà afin d'étendre un seul cadre de gouvernance au lieu d'en exécuter deux.

Explicabilité et raisonnement d'action défavorable

Un demandeur rejeté demandera pourquoi — et le règlement donne une voie pour obtenir une réponse :

• Article 86 — droit à l'explication. Une personne soumise à une décision à haut risque produisant des effets juridiques ou similaires (tels qu'un prêt refusé) a le droit à une explication claire et significative du rôle joué par l'IA dans cette décision.
• Article 13 — transparence pour les déploieurs. L'entreprise de prêt ou l'assureur qui déploie le modèle doit recevoir suffisamment d'informations pour interpréter sa sortie et l'utiliser correctement.
• Article 14 — surveillance humaine. Une personne doit être en mesure d'examiner et d'outrepasser une décision de crédit ou de souscription automatisée, et non simplement de la valider.
• Article 12 — journalisation. Les entrées et le raisonnement derrière chaque décision doivent être enregistrés afin qu'un raisonnement d'action défavorable puisse être reconstruit pour le client et l'auditeur.