Article 17 de la loi européenne sur l'IA : Système de gestion de la qualité

Ce que l'exigence de SGQ est

Les fournisseurs de systèmes d'IA à haut risque doivent établir un système de gestion de la qualité qui garantit la conformité à la loi sur l'IA, documenté de manière systématique et ordonnée dans des politiques, des procédures et des instructions écrites.

Le SGQ est proportionné à la taille de l'organisation du fournisseur, et pour les fournisseurs qui sont déjà soumis à des obligations de gestion de la qualité sectorielles en vertu d'autres dispositions de l'UE, les exigences de la loi sur l'IA peuvent être intégrées dans le système existant plutôt que d'être dupliquées. L'objectif n'est pas la paperasse pour elle-même : le SGQ est la manière dont un fournisseur démontre que la conformité est un processus répétitif et géré, et non un effort unique.

Éléments que le SGQ doit documenter

L'article 17(1) énumère les aspects que le système de gestion de la qualité doit couvrir, au moins :

• Stratégie de conformité réglementaire — y compris pour l'évaluation de la conformité et pour la gestion des modifications apportées au système à haut risque
• Procédures de conception et de développement — techniques, procédures et actions systématiques pour la conception, le contrôle de la conception et la vérification de la conception
• Développement et contrôle de la qualité — procédures pour le développement, le contrôle de la qualité et l'assurance de la qualité du système
• Examen, test et validation — procédures à effectuer avant, pendant et après le développement, et la fréquence à laquelle elles sont effectuées
• Spécifications techniques et normes — les normes appliquées, et lorsque les normes harmonisées ne sont pas appliquées dans leur intégralité, les moyens utilisés pour répondre aux exigences
• Gestion des données — systèmes et procédures pour l'acquisition, la collecte, l'analyse, l'étiquetage, le stockage, le filtrage, l'extraction, l'agrégation et la rétention des données
• Gestion des risques — le système de gestion des risques de l'article 9
• Surveillance post-marché — mise en place, mise en œuvre et maintenance d'un système de surveillance post-marché en vertu de l'article 72
• Signalement d'incidents — procédures pour signaler les incidents graves conformément à l'article 73
• Communication et responsabilité — gestion de la communication avec les autorités et les autres parties, tenue de dossiers, gestion des ressources et cadre de responsabilité définissant les responsabilités de la direction et du personnel

La norme harmonisée est encore en cours d'élaboration

Pour soutenir l'article 17, une norme harmonisée dédiée sur le système de gestion de la qualité pour l'IA est en cours d'élaboration dans le cadre de la demande de normalisation de la Commission à CEN-CENELEC.

Ce travail est en cours sous la référence prEN 18286 (norme de système de gestion de la qualité pour l'IA). Il s'agit encore d'un projet : le préfixe 'pr' indique une norme européenne en cours de travail qui n'a pas encore été publiée ou citée dans le Journal officiel, elle ne confère donc pas encore une présomption de conformité. Les fournisseurs doivent concevoir leur SGQ sur le texte de l'article 17 et suivre la norme à mesure qu'elle mûrit — la construction sur le projet peut réduire les reprises, mais elle ne remplace pas l'exigence juridique et ne doit pas être considérée comme étant déjà en vigueur.

Les références de norme et le statut de publication changent avec le temps ; vérifiez toujours le statut actuel de prEN 18286 et des normes harmonisées connexes contre le Journal officiel avant de vous y fier.