Bijlage III: AI-systemen met een hoog risico: leidraad voor de classificatie van artikel 6

Wat maakt een AI-systeem 'hoog risico'?

Artikel 6 creëert twee onafhankelijke manieren. Als aan een van beide wordt voldaan, wordt het AI-systeem als 'hoog risico' geclassificeerd, wat de volledige documentatie van bijlage IV, de controles van artikel 9-15 en de verplichtingen inzake conformiteitsbeoordeling activeert.

De twee manieren: Artikel 6(1) omvat AI die als veiligheidscomponent wordt gebruikt in gereguleerde producten. Artikel 6(2) + Bijlage III omvat zelfstandige AI in acht specifieke gebruiksscenario's.

Manier 1: Veiligheidscomponenten (artikel 6(1))

Als uw AI een veiligheidscomponent is van een product dat onder de EU-sectorale wetgeving valt (medische hulpmiddelen, voertuigen, machines, liften, speelgoed, enz.), of zelf een dergelijk product is, wordt het automatisch als 'hoog risico' geclassificeerd.

De conformiteitsbeoordeling moet worden uitgevoerd door een aangemelde instantie.

Manier 2: Gebruiksscenario's in bijlage III (artikel 6(2))

Acht gebruiksscenario's activeren de classificatie als 'hoog risico', ongeacht de onderliggende technologie:

• Biometrie: Systemen voor biometrische identificatie op afstand en emotieherkenning
• Kritieke infrastructuur: AI in de energie-, water-, gas-, verwarmings- en digitale infrastructuur
• Onderwijs: AI voor de beoordeling van studenten, het beoordelen van examens en leeranalyse
• Werkgelegenheid: Screening van cv's, analyse van sollicitatiegesprekken, taaktoewijzing, prestatiebeoordeling, beslissingen over ontslag
• Essentiële diensten: Kredietscores, goedkeuring van leningen, verzekeringsprijzen, inzet van hulpdiensten
• Wetshandhaving: Risicobeoordeling, leugendetectie, beoordeling van bewijsmateriaal, profilering
• Migratie en asiel: Visa-aanvragen, asielprocedures, grensbewaking
• Rechtspraak: Ondersteuning bij het bepalen van straffen, voorspelling van uitkomsten van rechtszaken, juridisch onderzoek

De uitzondering van artikel 6, lid 3

Een AI-systeem uit bijlage III kan worden vrijgesteld als het geen aanzienlijk risico vormt voor de gezondheid, veiligheid of fundamentele rechten.

Erkende gevallen omvatten beperkte procedurele taken, het verbeteren van het resultaat van een eerder voltooide menselijke activiteit, het detecteren van besluitvormingspatronen zonder menselijke beoordeling te vervangen, of voorbereidende taken voor een latere menselijke beslissing. Profiling is altijd een risicovolle activiteit. De uitzondering is nooit van toepassing als het systeem profiling uitvoert van natuurlijke personen.

Als u de uitzondering aanvraagt, documenteer dan de onderbouwing zorgvuldig. Toezichthouders kunnen dit betwisten.

Documentatievereisten bij hoog risico

AI-systemen met een hoog risico moeten over uitgebreide documentatie beschikken om de naleving aan te tonen:

• Technische documentatie uit bijlage IV
• Risicobeheersysteem van artikel 9
• Gegevensbeheergegevens van artikel 10
• Registratie in de productieomgeving van artikel 12
• Ontwerp voor menselijk toezicht van artikel 14
• Conformiteitsbeoordeling + CE-markering
• Registratie in de EU-AI-database