EU-KI-Gesetz — Nachmarküberwachung und Meldung von Vorfällen (Artikel 72–73)

Artikel 72: Nachmarküberwachung

Anbieter von hochrisikorelevanten KI-Systemen müssen ihre Systeme nach der Markteinführung oder Inbetriebnahme aktiv überwachen:

• Ein Nachmarküberwachungssystem etablieren und dokumentieren, das proportional zur Art der KI-Technologie und ihren Risiken ist
• Relevante Daten über die Leistung während der gesamten Lebensdauer des Systems sammeln, dokumentieren und analysieren, einschließlich Daten von Deployern und anderen Quellen
• Die Aktivität auf einem Nachmarküberwachungsplan basieren, der Teil der technischen Dokumentation ist — die Kommission wird ein Template bereitstellen
• Die Überwachung verwenden, um die fortlaufende Einhaltung zu bewerten und Probleme zu erkennen, die korrigierende Maßnahmen erfordern

Artikel 73: Meldung von schwerwiegenden Vorfällen

Wenn etwas schwerwiegend schiefgeht, legt Artikel 73 kurze, gestufte Fristen für die Meldung an die Marktaufsichtsbehörde fest. Ein schwerwiegender Vorfall umfasst den Tod oder schwere Schäden an der Gesundheit, schwere und irreversible Störungen der kritischen Infrastruktur, Verletzungen von Grundrechten oder schwere Schäden an Eigentum oder der Umwelt:

• Grundsatz: melden, sobald der Anbieter eine ursächliche Verbindung (oder eine vernünftige Wahrscheinlichkeit) zwischen dem System und dem Vorfall hergestellt hat, und spätestens 15 Tage nach Kenntniserlangung
• Flächendeckende Verstöße oder schwere und irreversible Störungen der kritischen Infrastruktur: spätestens 2 Tage
• Tod einer Person: spätestens 10 Tage
• Eine erste, möglicherweise unvollständige Meldung kann zunächst eingereicht werden, um die Frist einzuhalten, gefolgt von einer vollständigen Meldung; der Anbieter muss auch untersuchen und korrigierende Maßnahmen ergreifen

Die Frist ist kurz — Tage, nicht Monate. Die Rekonstruktion dessen, was ein Agent getan hat, nachträglich, ohne eine dauerhafte Aufzeichnung, ist genau der Punkt, an dem Teams in Schwierigkeiten geraten.

Die Rückkopplung in Artikel 9

Überwachung und Meldung von Vorfällen sind nicht isolierte Bürokratie — sie schließen die Rückkopplung in das Risikomanagement:

• Ergebnisse aus der Überwachung nach dem Markt bereichern das Artikel-9-Risikomanagementsystem, das ein kontinuierlicher, iterativer Prozess über den gesamten Lebenszyklus hinweg sein muss
• Schwere Vorfälle und identifizierte Risiken lösen eine Überprüfung und Aktualisierung der Risikokontrollen und, wenn erforderlich, der technischen Dokumentation aus
• Dies macht die Einhaltung der Vorschriften zu einer laufenden betrieblichen Disziplin und nicht zu einer einmaligen vor-marktlichen Konformitätsübung
• Gute Produktionsbeweise sind das, was es Ihnen ermöglicht, genau zu berichten und zu beweisen, dass Sie auf das, was Sie gefunden haben, reagiert haben