EU-KI-Gesetz Artikel 17: Qualitätsmanagementsystem (QMS)

Was die QMS-Anforderung ist

Anbieter von hochrisikigen KI-Systemen müssen ein Qualitätsmanagementsystem einrichten, das die Einhaltung des KI-Gesetzes sicherstellt, und es in einer systematischen und geordneten Weise als schriftliche Richtlinien, Verfahren und Anweisungen dokumentieren.

Das QMS ist proportional zur Größe der Organisation des Anbieters, und für Anbieter, die bereits unter sektoralen Qualitätsmanagementspflichten nach anderen Unionsrecht stehen, können die Anforderungen des KI-Gesetzes in das bestehende System integriert werden, anstatt es zu duplizieren. Der Punkt ist nicht die Bürokratie um ihrer selbst willen: Das QMS ist die Art und Weise, wie ein Anbieter nachweist, dass die Einhaltung ein wiederholbarer, reglementierter Prozess und kein einmaliger Versuch ist.

Elemente, die das QMS dokumentieren muss

Artikel 17(1) zählt die Aspekte auf, die das Qualitätsmanagementsystem mindestens abdecken muss:

• Rechtskonformitätsstrategie — einschließlich für die Konformitätsbewertung und für die Verwaltung von Änderungen an hochrisikigen Systemen
• Design- und Entwicklungsverfahren — Techniken, Verfahren und systematische Maßnahmen für Design, Designkontrolle und Designverifizierung
• Entwicklung und Qualitätskontrolle — Verfahren für Entwicklung, Qualitätskontrolle und Qualitätssicherung des Systems
• Prüfung, Test und Validierung — Verfahren, die vor, während und nach der Entwicklung durchgeführt werden, und wie häufig sie durchgeführt werden
• Technische Spezifikationen und Normen — die angewendeten Normen und die Mittel, die verwendet werden, um die Anforderungen zu erfüllen, wenn harmonisierte Normen nicht vollständig angewendet werden
• Datemanagement — Systeme und Verfahren für Datenerfassung, -sammlung, -analyse, -kennzeichnung, -speicherung, -filterung, -mining, -aggregation und -aufbewahrung
• Risikomanagement — das Risikomanagementsystem nach Artikel 9
• Post-Market-Überwachung — Einrichtung, Umsetzung und Aufrechterhaltung eines Post-Market-Überwachungssystems nach Artikel 72
• Vorfallmeldung — Verfahren für die Meldung schwerwiegender Vorfälle nach Artikel 73
• Kommunikation und Rechenschaftspflicht — Umgang mit der Kommunikation mit Behörden und anderen Parteien, Aufzeichnung, Ressourcenmanagement und ein Rechenschaftspflichtenrahmen, der die Verantwortlichkeiten der Führungskräfte und des Personals definiert

Der harmonisierte Standard ist noch im Entstehen

Um Artikel 17 zu unterstützen, wird ein dedizierter harmonisierter Standard für das KI-Qualitätsmanagementsystem unter dem Standardisierungsantrag der Kommission an CEN-CENELEC entwickelt.

Diese Arbeit wird unter der Referenz prEN 18286 (ein KI-Qualitätsmanagementsystem-Standard) durchgeführt. Es ist noch ein Entwurf: Das 'pr'-Präfix markiert einen Entwurf eines europäischen Standards, der noch nicht veröffentlicht oder im Amtsblatt zitiert wurde, sodass er noch keine Vermutung der Konformität begründet. Anbieter sollten ihr QMS nach dem Artikel-17-Text entwerfen und den Standard verfolgen, während er sich entwickelt — das Aufbauen auf den Entwurf kann den Nachbearbeitungsaufwand reduzieren, es ist jedoch kein Ersatz für die rechtliche Anforderung und sollte nicht wie bereits in Kraft getreten verlassen werden.

Standardreferenzen und Veröffentlichungsstatus ändern sich im Laufe der Zeit; immer den aktuellen Status von prEN 18286 und allen damit verbundenen harmonisierten Standards gegen das Amtsblatt überprüfen, bevor Sie sich darauf verlassen.