Άρθρο 12 του Κανονισμού της ΕΕ για την Τεχνητή Νοημοσύνη: Απαιτήσεις για την καταγραφή και τη διατήρηση αρχείου ελέγχου.

Τι απαιτεί το Άρθρο 12.

Τα συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου πρέπει, κατ’ αρχήν, να επιτρέπουν την αυτόματη καταγραφή των γεγονότων («αρχεία καταγραφής») καθ’ όλη τη διάρκεια ζωής του συστήματος. Τα αρχεία καταγραφής πρέπει να παρέχουν επαρκή δυνατότητα ανίχνευσης για την παρακολούθηση μετά την κυκλοφορία στην αγορά, τον κανονιστικό έλεγχο και την ανθρώπινη εποπτεία, σύμφωνα με το άρθρο 14.

Το άρθρο 12 είναι μία από τις λίγες υποχρεώσεις του κανονισμού της ΕΕ για την τεχνητή νοημοσύνη που απαιτεί μια τεχνική δυνατότητα και όχι απλώς τεκμηρίωση της διαδικασίας — το σύστημα τεχνητής νοημοσύνης σας πρέπει να παράγει κυριολεκτικά αυτά τα αρχεία κατά τη λειτουργία του.

Τι πρέπει να καταγράφει το αρχείο ελέγχου σας.

Το άρθρο 12 απαιτεί να καταγράφονται επαρκείς λεπτομέρειες, ώστε να είναι δυνατή η ανασύσταση του τρόπου και των λόγων με τους οποίους ελήφθησαν οι αποφάσεις:

• Καταγραφή δεδομένων σε επίπεδο συμβάντος με αξιόπιστες χρονικές σημάνσεις.
• Είσοδοι που λαμβάνει το σύστημα τεχνητής νοημοσύνης και έξοδοι που παράγει.
• Εσωτερικά στάδια της διαδικασίας (συζήτηση, ενδιάμεσες αποφάσεις, αξιολογήσεις πολιτικής)
• Ενέργειες με ανθρώπινη παρέμβαση: εγκρίσεις, παρακάμψεις, κλιμάκωση
• Δεδομένα κατάστασης του συστήματος, επαρκή για την αναπαραγωγή του πλαισίου λήψης αποφάσεων.
• Ανώμαλα γεγονότα και η διαχείρισή τους

Τεχνικές απαιτήσεις

Ο κανονισμός καθορίζει διάφορες τεχνικές προδιαγραφές που πρέπει να πληροί η υποδομή καταγραφής δεδομένων σας:

• Αυτόματη καταγραφή — οι χειροκίνητες εγγραφές στα αρχεία καταγραφής δεν πληρούν τις απαιτήσεις του άρθρου 12.
• Αξιόπιστη και ολοκληρωμένη καταγραφή γεγονότων.
• Ασφαλής αποθήκευση με προστασία από παραβίαση
• Η περίοδος διατήρησης πρέπει να είναι ανάλογη με τον προβλεπόμενο σκοπό και το προφίλ κινδύνου.
• Μπορεί να εξαχθεί σε μορφές κατάλληλες για αξιολόγηση από τις ρυθμιστικές αρχές.

Συνήθεις Ελλείψεις στη Συμμόρφωση

Με βάση την εμπειρία μας από τη συνεργασία μας με ομάδες που ασχολούνται με την τεχνητή νοημοσύνη σε επιχειρήσεις, αυτές είναι οι πιο συχνές περιπτώσεις μη συμμόρφωσης με το άρθρο 12:

• Καταγράφονται μόνο τα αποτελέσματα, όχι η διαδικασία σκέψης που οδήγησε σε αυτά.
• Ελλιπείς ή εσφαλμένοι αρχεία χειροκίνητης παρέμβασης.
• Δυναμική αποθήκευση αρχείων καταγραφής που δεν παρέχει επαρκή στοιχεία για την ανίχνευση πιθανών αλλοιώσεων.
• Οι περίοδοι διατήρησης είναι πολύ σύντομες για ελέγχους που διενεργούνται από τις ρυθμιστικές αρχές.
• Δεν υπάρχει δομημένη εξαγωγή δεδομένων — μόνο εξατομικευμένες ερωτήσεις στη βάση δεδομένων.

Άρθρο 11 + Παράρτημα IV – Τεχνική Τεκμηρίωση

Το άρθρο 11 απαιτεί την παροχή τεχνικής τεκμηρίωσης, η οποία, σε συνδυασμό με τα αρχεία καταγραφής του άρθρου 12, αποδεικνύει τη συμμόρφωση.

Το Παράρτημα IV καθορίζει τη δομή: περιγραφή του συστήματος, προβλεπόμενος σκοπός, επιλογές σχεδιασμού, δεδομένα εκπαίδευσης και δοκιμών, διαδικασίες επικύρωσης, παρακολούθηση και τα ίδια τα αρχεία καταγραφής. Αντιμετωπίστε τα δύο ως μία ενιαία ροή εργασίας.