Wat is AI-nalevingsbaarheid?

AI-nalevingsbaarheid betekent dat u elke AI-uitvoer achteruit kunt volgen: welke invoer werd ontvangen, welke gegevensbronnen en -documenten werden geraadpleegd, welk model en versie deze verwerkte, welke tussenstappen werden uitgevoerd en welk besluit het eindresultaat opleverde. Deze keten van oorzaak en gevolg is de herkomst van het systeem (in nauw verband met oorsprong, die de oorsprong en authenticiteit van de gegevens benadrukt).

Herkomst is belangrijk omdat verantwoordelijkheid ervan afhankelijk is. Wanneer een AI-agent een lening goedkeurt, een transactie markeert of een claim afwijst, is iemand verantwoordelijk voor dat resultaat — voor een klant, een accountant of een toezichthouder. U kunt een besluit niet verdedigen dat u niet kunt reconstrueren. Nalevingsbaarheid maakt een ondoorzichtige uitvoer om tot een verklaarbare, beoordeelbare gebeurtenis, wat precies is wat AI-governance vereist.

Er zijn twee duidelijk verschillende lagen van nalevingsbaarheid, en deze zijn gemakkelijk met elkaar te verwarren. Uitvoeringsnalevingsbaarheid reconstrueert hoe het systeem werd uitgevoerd — de prompts, toolaanroepen, latentie en tussenliggende uitvoer. Dit is de wereld van AI-observability en LLM-nalevingsbaarheid, waar een aanvraag wordt gecorreleerd over spans en trace-IDs.

Besluitnalevingsbaarheid gaat verder: het reconstrueert waarom een bepaald resultaat werd gekozen — de redenering, de afgewogen bewijslast, de in overweging genomen alternatieven en het toegepaste beleid. Uitvoerlogboeken vertellen u dat het model een resultaat heeft gegenereerd; besluitnalevingsbaarheid vertelt u op basis van welke gronden. Dit is de besluitlaag, en hier woont de verantwoordelijkheid — zie besluitvolging voor het agent-specifieke perspectief.

Voor AI-systemen met een hoog risico is nalevingsbaarheid geen optie. De EU-AI-wet vereist automatische record-keeping (Artikel 12) zodat de werking van een systeem kan worden getraceerd gedurende de hele levenscyclus, naast transparantie (Artikel 13) en menselijke toezicht (Artikel 14). Internationale kaders zoals de NIST AI RMF en ISO/IEC 42001 wijzen in dezelfde richting.

In de praktijk betekent het voldoen aan deze verplichtingen het produceren van een complete, betrouwbare herkomst op aanvraag — een die een accountant kan vertrouwen als bewijs. Dat is waarom nalevingsbaarheid het meest nuttig is wanneer het wordt gepaard met een AI-audittrail: een onvervalsbare record die de gereconstrueerde herkomst niet is gewijzigd na het feit.