المادة 12 من قانون الذكاء الاصطناعي للاتحاد الأوروبي: متطلبات التسجيل وتتبع التدقيق

ماذا تتطلب المادة 12

يجب أن تسمح أنظمة الذكاء الاصطناعي عالية الخطورة، بحكم تصميمها، بالتسجيل التلقائي للأحداث ('السجلات') طوال فترة صلاحية النظام. يجب أن تتيح السجلات إمكانية التتبع الكافية للمراقبة بعد التسويق، والتفتيش التنظيمي، والإشراف البشري بموجب المادة 14.

تعد المادة 12 واحدة من عدد قليل من التزامات قانون الذكاء الاصطناعي للاتحاد الأوروبي التي تتطلب قدرة فنية بدلاً من مجرد توثيق الإجراءات - يجب أن ينتج نظام الذكاء الاصطناعي الخاص بك هذه السجلات فعليًا أثناء تشغيله.

ما يجب أن تتضمنه سجلات التدقيق الخاصة بك

يجب أن تتضمن سجلات المادة 12 تفاصيل كافية لإعادة بناء كيفية واتخاذ القرارات:

• تسجيل على مستوى الحدث مع الطوابع الزمنية الموثوقة
• المدخلات التي يتلقاها نظام الذكاء الاصطناعي والمخرجات التي ينتجها
• خطوات العملية الداخلية (التحليل، والقرارات الوسيطة، وتقييمات السياسة)
• إجراءات التدخل البشري: الموافقات، والإلغاء، والتصعيد
• بيانات حالة النظام الكافية لإعادة إنتاج سياق القرار
• أحداث الشذوذ وكيفية التعامل معها

المتطلبات الفنية

يحدد القانون عدة خصائص فنية يجب أن تفي بها البنية التحتية للتسجيل الخاصة بك:

• التسجيل التلقائي - لا تفي إدخالات السجل اليدوية بمتطلبات المادة 12
• تسجيل الأحداث الكامل والموثوق
• تخزين آمن ومقاوم للتلاعب
• فترة الاحتفاظ متناسبة مع الغرض المقصود وملف المخاطر
• قابلة للتصدير بتنسيقات مناسبة للمراجعة التنظيمية

أوجه القصور الشائعة في الامتثال

بناءً على عملنا مع فرق الذكاء الاصطناعي للمؤسسات، هذه هي أكثر أوجه القصور شيوعًا في الامتثال للمادة 12:

• تسجيل المخرجات فقط، وليس المنطق الذي أنتجها
• سجلات التدخل البشري المفقودة أو غير الكاملة
• تخزين السجل القابل للتغيير الذي لا يفي بمتطلبات مقاومة التلاعب
• فترات الاحتفاظ قصيرة جدًا للتفتيش التنظيمي
• لا يوجد تصدير منظم - فقط استعلامات قاعدة البيانات المؤقتة

الوثائق الفنية للمادة 11 والملحق الرابع

تتطلب المادة 11 وثائق فنية تثبت، جنبًا إلى جنب مع سجلات المادة 12، الامتثال.

يحدد الملحق الرابع الهيكل: وصف النظام، والغرض المقصود، وخيارات التصميم، وبيانات التدريب والاختبار، وإجراءات التحقق، والمراقبة، والسجلات نفسها. تعامل مع الاثنين كمجرى عمل واحد.