تصنيف عالي المخاطر لمادة 6 من قانون الذكاء الاصطناعي في الاتحاد الأوروبي
تنص المادة 6 من قانون الذكاء الاصطناعي في الاتحاد الأوروبي على قواعد التصنيف للأنظمة عالية المخاطر. تُعرف الأنظمة عالية المخاطر من خلال الفئات الواردة في الملحق الثالث، بما في ذلك التوظيف، وتقييم الائتمان، والرعاية الصحية، والتعليم، وإنفاذ القانون. يجب على المنظمات الامتثال بحلول 2 ديسمبر 2027، بعد التأجيل الذي تم تقديمه بموجب قانون الرقمنة بشأن الذكاء الاصطناعي. تشمل متطلبات المادة 6 تسجيلًا تلقائيًا لتتبع القرارات (المادة 12)، والشفافية وقابلية التفسير (المادة 13)، وقدرات الإشراف البشري (المادة 14). تحمل عدم الامتثال عقوبات تصل إلى 15 مليون يورو أو 3% من العائدات العالمية. سجلات التنفيذ القياسية لا تلبي متطلبات المادة 6 - يتطلب الامتثال تتبع قرارات منظم يتضمن التفكير، والأدلة، والبدائل التي تم النظر فيها، والمساءلة. توفر AIAgentree بنية تحتية لحزم القرارات مصممة خصيصًا للامتثال للمادة 6 من قانون الذكاء الاصطناعي في الاتحاد الأوروبي.
تحدد المادة 6 من قانون الذكاء الاصطناعي في الاتحاد الأوروبي ما إذا كان نظام الذكاء الاصطناعي الخاص بك "عالي المخاطر" — مما يستدعي متطلبات إلزامية للتسجيل، والشفافية، والإشراف البشري. الموعد النهائي: 2 ديسمبر 2027.
- •فئات الملحق الثالث — الائتمان، التوظيف، الرعاية الصحية، التعليم
- •المادة 12 — تسجيل تلقائي يتيح تتبع القرارات
- •المادة 13 — متطلبات الشفافية وقابلية التفسير
- •المادة 14 — قدرات الإشراف البشري والتدخل
- •العقوبات — تصل إلى 15 مليون يورو أو 3% من العائدات العالمية لعدم الامتثال
في الشهر الماضي، تلقى فريق الذكاء الاصطناعي في أحد البنوك الأوروبية من المستوى الأول البريد الإلكتروني الذي لا يريده أي قائد في الذكاء الاصطناعي.
كتب CISO: "تدقيق الجهة التنظيمية قادم. 30 يومًا. توثيق آخر 90 يومًا من قرارات الائتمان المدعومة بالذكاء الاصطناعي. تتبع كامل وفقًا للمادة 6."
كانت أول استجابة لفريق الذكاء الاصطناعي "لدينا سجلات." السجلات غير متوافقة مع المادة 6.
تنبيه: هذه المقالة لأغراض إعلامية فقط ولا تشكل نصيحة قانونية. استشر مستشار قانوني مؤهل لاتخاذ قرارات الامتثال. نص التنظيم ساري اعتبارًا من يوليو 2026؛ تحقق من الاقتباسات قبل الاعتماد عليها.
المادة 6 بلغة بسيطة
تنص المادة 6 من قانون الذكاء الاصطناعي في الاتحاد الأوروبي (التنظيم 2024/1689) على متى يُعتبر نظام الذكاء الاصطناعي "عالي المخاطر". تؤدي هذه التصنيف إلى متطلبات امتثال إلزامية تغير بشكل جذري كيفية توثيق وإدارة وكلاء الذكاء الاصطناعي لديك.
المادة 6(1): "يعتبر نظام الذكاء الاصطناعي [...] عالي المخاطر حيث [...] يُقصد باستخدام نظام الذكاء الاصطناعي كعنصر أمان لمنتج [...] أو أن نظام الذكاء الاصطناعي هو نفسه منتج [...] ويتطلب الخضوع لتقييم المطابقة من طرف ثالث."
المادة 6(2): "بالإضافة إلى أنظمة الذكاء الاصطناعي عالية المخاطر المشار إليها في الفقرة 1، تعتبر أنظمة الذكاء الاصطناعي التي تقع تحت أي من حالات الاستخدام المدرجة في الملحق الثالث عالية المخاطر."
إذا كان وكيل الذكاء الاصطناعي الخاص بك يتخذ قرارات في الفئات المدرجة في الملحق الثالث — تقييم الائتمان، التوظيف، الرعاية الصحية، التعليم، إنفاذ القانون — فإنه عالي المخاطر بشكل افتراضي ويجب أن يمتثل للمادتين 12-14.
الفئات عالية المخاطر في الملحق الثالث
الملحق الثالث يحدد 8 فئات حيث يتم تصنيف أنظمة الذكاء الاصطناعي تلقائيًا على أنها عالية المخاطر:
- •(1) القياسات الحيوية — التعرف على الوجه، كشف المشاعر، التعرف البيومتري
- •(2) البنية التحتية الحيوية — إدارة المرور، المرافق، البنية التحتية الرقمية
- •(3) التعليم — قرارات القبول، تقييم الامتحانات، تحديد مسار التعلم
- •(4) التوظيف — التوظيف، تقييم الأداء، الترقيات، إنهاء الخدمة. أهمية عالية جداً
- •(5) الخدمات الأساسية — تقييم الائتمان، تسعير التأمين، الوصول إلى المزايا. أهمية عالية جداً
- •(6) إنفاذ القانون — تقييم الأدلة، تحديد الهوية، تقييم المخاطر
- •(7) الهجرة واللجوء — طلبات التأشيرة، مراقبة الحدود، معالجة طلبات اللجوء
- •(8) العدالة — البحث القانوني، توقع نتائج القضايا، الحكم
إذا كانت وكلاء الذكاء الاصطناعي لديك تعمل في الفئات 4 (التوظيف) أو 5 (الخدمات الأساسية)، فمن المؤكد تقريبًا أنك خاضع لمتطلبات المادة 6 بالكامل. هذه هي حالات استخدام الذكاء الاصطناعي في المؤسسات ذات الحجم الأعلى.
المقالة 6 من متطلبات القدرات الثلاث
تصنيف المخاطر العالية يُفعّل ثلاث مواد ذات صلة تحدد ما تعنيه الامتثال فعليًا:
المادة 12: حفظ السجلات ومسارات التدقيق
يجب تصميم وتطوير أنظمة الذكاء الاصطناعي عالية المخاطر بقدرات تتيح التسجيل التلقائي للأحداث ('السجلات') [...] يجب أن تضمن قدرات التسجيل مستوى من إمكانية تتبع عمل نظام الذكاء الاصطناعي [...] مناسبًا للغرض المقصود.
Translation: تحتاج إلى سجلات تتيح تتبع القرارات - ليس فقط استدعاءات API، ولكن أيضًا المنطق.
المادة 13: الشفافية والمعلومات
يجب تصميم وتطوير أنظمة الذكاء الاصطناعي عالية المخاطر بطريقة تضمن أن تكون عملياتها شفافة بما يكفي لتمكين المستخدمين من تفسير مخرجات النظام واستخدامها بشكل مناسب.
الترجمة: يجب أن تكون مخرجات القرار قابلة للتفسير. الصندوق الأسود غير متوافق.
المادة 14: الإشراف البشري
يجب تصميم وتطوير أنظمة الذكاء الاصطناعي عالية المخاطر بطريقة [...] تمكن الأشخاص الطبيعيين الذين تم تعيين الإشراف البشري لهم من [...] فهم القدرات والقيود الخاصة بنظام الذكاء الاصطناعي بشكل كامل والقدرة على مراقبة تشغيله بشكل مناسب.
الترجمة: يجب أن يكون البشر قادرين على الفهم والمراقبة والتدخل.
لماذا لا يفي التسجيل بالمادة 6
تسجل سجلات التنفيذ القياسية ما حدث. يتطلب المادة 6 توثيق ما تم اتخاذه من قرارات ولماذا. هذه هي قطع أثرية مختلفة جوهريًا.
| ❌ سجل التنفيذ (غير متوافق) | ✅ تتبع القرار (متوافق) |
|---|---|
approve_credit(app_id=1234) | الاقتراح: الموافقة على الائتمان #1234 الإيجابيات: تاريخ سداد لمدة 3 سنوات (الوزن: 0.9) الإيجابيات: توظيف مستقر (الوزن: 0.85) السلبيات: الدرجة أقل من العتبة (الوزن: 0.72) استثناء: تمت الموافقة على الاستثناء من قبل المحلل السبب: تاريخ السداد يفوق الدرجة النتيجة (6 أشهر): 0 دفعات متأخرة |
| يخبرك أن الائتمان قد تم الموافقة عليه. لا يخبرك لماذا، أو ما الذي تم اعتباره، أو ما هي البدائل المتاحة. | يستوعب التفكير، والبدائل، والإشراف البشري، وتتبع النتائج. |
عندما يسأل المنظم "لماذا تم الموافقة على هذا الائتمان على الرغم من الدرجة؟"، فإن السجل ليس لديه إجابة. لكن تتبع القرار لديه.
لماذا لا يفي توثيق سلسلة الأفكار بالمادة 6
يبدو أن التقاط سلسلة الأفكار (CoT) هو حل — جعل النموذج "يشرح" تفكيره. لكن هناك مشكلة أساسية:
مشكلة CoT
يتم توليد سلسلة الأفكار بعد الحدث. إنها ليست وفية للحساب الداخلي للنموذج. يمكن أن تنتج طلبان نفس القرار مع "تفسيرات" مختلفة. التفسير العملي للجنة يتجه نحو ضرورة التقاط نقطة القرار، وليس إعادة البناء بعد الحدث.
تتبع القرار يلتقط العناصر الهيكلية في نقطة القرار — وليس السرد المعاد بناؤه بعد ذلك. هذا يلبي متطلبات المادة 12 لـ "التسجيل التلقائي" الذي "يمكن من تتبع الأثر."
ما الذي تلتقطه تتبعات القرار (ولماذا تلبي المادة 6)
تتوافق حزم قرارات AIAgentree مباشرة مع متطلبات الوثائق في المادة 6:
| المادة 6 المتطلبات | مكون حزمة القرار |
|---|---|
| قابلية تتبع القرارات | النتيجة + معرفات_الحجة_المنطقية |
| النظر في البدائل | alternatives[] + الحجج المرفوضة |
| أساس الأدلة | evidence_refs[] مع الأصل + لقطات |
| الإشراف البشري (المادة 14) | حقل decided_by (وكيل/إنسان/كلاهما) |
| قابلية التفسير (المادة 13) | شجرة حجة منظمة مع علاقات مؤيدة/معارضة |
تطبيق خاص بالقطاع
الذكاء الاصطناعي في الرعاية الصحية
تندرج أنظمة الذكاء الاصطناعي التي تساعد في التشخيص، وتوصيات العلاج، أو فرز المرضى تحت الملحق الثالث. يتطلب المادة 6 توثيق الأدلة السريرية التي تم النظر فيها، والتشخيصات التفريقية التي تم تقييمها، وسلسلة التفكير التي أدت إلى التوصية.
المتطلب الرئيسي: يجب أن تجمد لقطات الأدلة البيانات السريرية في وقت اتخاذ القرار. إعادة البناء بأثر رجعي من سجلات المرضى الحالية غير متوافقة.
الخدمات المالية
تقييم الائتمان، وتحتية التأمين، واكتشاف الاحتيال تعتبر من الفئات عالية المخاطر تحت الفئة 5. يتطلب المادة 6 توثيق العوامل التي أثرت على القرار، وكيف تم وزنها، وما الذي كان سيغير النتيجة.
المتطلب الرئيسي: عندما يسأل المتقدم "لماذا تم رفضي؟"، يجب أن تكون قادرًا على الإشارة إلى عوامل محددة من مسار القرار — وليس إعادة إنتاج تفسير.
الموارد البشرية والتوظيف
تعتبر عمليات فرز التوظيف، وتقييم الأداء، وقرارات إنهاء الخدمة عالية المخاطر تحت الفئة 4. متطلبات المادة 6 صارمة بشكل خاص هنا بسبب مخاوف التمييز.
المتطلب الرئيسي: يجب أن تُظهر آثار القرارات أن الخصائص المحمية لم تؤثر على النتائج. يتطلب رصد التحيز تفكيرًا منظمًا، وليس مجرد تدقيق للنتائج.
الجدول الزمني والمواعيد النهائية
جدول زمني لقانون الذكاء الاصطناعي في الاتحاد الأوروبي
- •أغسطس 2024 — دخول حيز التنفيذ
- •فبراير 2025 — حظر الذكاء الاصطناعي المحظور + مطلوب معرفة بالذكاء الاصطناعي
- •أغسطس 2025 — قواعد الحوكمة + التزامات GPAI
- •أغسطس 2026 — الموعد النهائي للامتثال للأنظمة عالية المخاطر
قائمة التحقق من الجاهزية لمدة 90 يومًا
إليك خارطة طريق ملموسة للامتثال للمادة 6:
قم بجرد وكلاء الذكاء الاصطناعي لديك
ما هي الأنظمة التي تتخذ أو تساعد في اتخاذ القرارات؟ وثق الغرض المقصود لكل منها.
تصنيف قابلية تطبيق الملحق الثالث
قم بتعيين كل وكيل إلى فئات الملحق الثالث. حدد أيها عالي المخاطر.
تدقيق السجلات الحالية مقابل المتطلبات
قارن السجلات الحالية مع متطلبات حزمة القرار. حدد الفجوات.
نشر بنية تحتية لتتبع القرارات
قم بدمج SDK الخاص بـ AIAgentree. ابدأ في التقاط حزم القرارات عند نقاط القرار.
إقامة سير عمل لمراقبة البشر
حدد قوائم الموافقة، وإجراءات التجاوز، ومسارات التصعيد وفقًا للمادة 14.
إنشاء دليل تشغيل استجابة المنظم
وثق كيف ستستجيب لطلب تدقيق لمدة 30 يومًا. اختبر تدفق الاستجابة.
ما لا يغطيه هذا المنشور
تعتبر الحدود مهمة. يتناول هذا المنشور بشكل خاص تصنيف المخاطر العالية في المادة 6. لا يغطي:
- •الذكاء الاصطناعي المحظور (المادة 5) — إذا كان نظامك يقع هنا، فإن الامتثال غير ممكن
- •تنظيم الذكاء الاصطناعي في الولايات المتحدة — تنطبق أطر مختلفة؛ راجع دليل الامتثال الخاص بنا في الولايات المتحدة
- •قانون الذكاء الاصطناعي الكامل للاتحاد الأوروبي — تغطي المواد 7-86 العديد من المتطلبات الأخرى
- •نصيحة قانونية — هذا محتوى معلوماتي، وليس استشارة قانونية
أسئلة متكررة
ما هو المادة 6 من قانون الذكاء الاصطناعي في الاتحاد الأوروبي؟
المادة 6 تحدد قواعد التصنيف للأنظمة الذكية عالية المخاطر بموجب قانون الذكاء الاصطناعي في الاتحاد الأوروبي. وهي تعرف متى يُعتبر نظام الذكاء الاصطناعي "عالي المخاطر" بناءً على استخدامه في المجالات المدرجة في الملحق الثالث (التوظيف، الائتمان، الرعاية الصحية، التعليم، إلخ) وتحدد العتبة لمتطلبات الامتثال الإلزامية بما في ذلك التسجيل، والشفافية، والإشراف البشري.
متى يدخل قانون الذكاء الاصطناعي في الاتحاد الأوروبي المادة 6 حيز التنفيذ؟
يجب أن يتم الوفاء بمتطلبات أنظمة الذكاء الاصطناعي عالية المخاطر بموجب المادة 6 بحلول 2 ديسمبر 2027 لأنظمة الملحق الثالث المستقلة، والتي تم تأجيلها من 2 أغسطس 2026 بموجب قانون الذكاء الاصطناعي الشامل. هذا هو الموعد النهائي الرئيسي للامتثال للمنظمات التي تنشر وكلاء الذكاء الاصطناعي في فئات الملحق الثالث. بعض الأحكام (الممارسات المحظورة) دخلت حيز التنفيذ في وقت سابق في فبراير 2025.
ما هي الفئات عالية المخاطر في الملحق الثالث؟
الملحق الثالث يحدد 8 فئات عالية المخاطر: (1) القياسات الحيوية، (2) البنية التحتية الحيوية، (3) التعليم/التدريب المهني، (4) التوظيف/إدارة العمال، (5) الوصول إلى الخدمات الأساسية (الائتمان، التأمين، المزايا)، (6) إنفاذ القانون، (7) الهجرة/اللجوء، و(8) إدارة العدالة. يجب على وكلاء الذكاء الاصطناعي الذين يتخذون قرارات في هذه المجالات الامتثال لمتطلبات المادة 6 بالكامل.
ماذا يتطلب المادة 6 بالنسبة للتسجيل والتتبع؟
المادة 6 (والمادة 12 ذات الصلة) تتطلب من أنظمة الذكاء الاصطناعي عالية المخاطر الحفاظ على تسجيل تلقائي يتيح تتبع القرارات. وهذا يعني توثيق ما تم اتخاذه من قرارات، والأسس المنطقية، والبدائل التي تم النظر فيها، والأدلة التي تم استشارتها، وإجراءات الإشراف البشري — وهو ما يتجاوز بكثير سجلات التنفيذ التي تسجل فقط استدعاءات واجهة برمجة التطبيقات والأختام الزمنية.
كيف يختلف تتبع القرارات عن التسجيل القياسي للامتثال لقانون الذكاء الاصطناعي في الاتحاد الأوروبي؟
تسجل السجلات القياسية ما حدث (استدعاءات API، الطوابع الزمنية، الأخطاء). يتطلب الامتثال للمادة 6 تتبع القرار نفسه - لماذا تم اتخاذه، وما الأدلة التي دعمت ذلك، وما البدائل التي تم النظر فيها، ومن كان مسؤولاً. يلتقط تتبع القرار هذا التفكير المنظم كحزم قرارات قابلة للتدقيق تلبي المتطلبات التنظيمية.
ما هي العقوبات على عدم الامتثال للمادة 6؟
عدم الامتثال لمتطلبات الذكاء الاصطناعي عالية المخاطر يترتب عليه غرامات تصل إلى 15 مليون يورو أو 3% من العائد السنوي العالمي، أيهما أعلى. بالنسبة لأكثر الانتهاكات خطورة (الممارسات المحظورة)، يمكن أن تصل العقوبات إلى 35 مليون يورو أو 7% من العائد. بالنسبة لشركة تحقق عائدات قدرها 1 مليار يورو، يعني ذلك غرامات محتملة تتراوح بين 30-70 مليون يورو.
هل ينطبق قانون الذكاء الاصطناعي للاتحاد الأوروبي على الشركات خارج الاتحاد الأوروبي؟
نعم. قانون الذكاء الاصطناعي في الاتحاد الأوروبي له نطاق خارج الحدود. ينطبق على أي منظمة يتم طرح أنظمة الذكاء الاصطناعي الخاصة بها في سوق الاتحاد الأوروبي، أو تُستخدم مخرجات الذكاء الاصطناعي الخاصة بها داخل الاتحاد الأوروبي، أو تؤثر قرارات الذكاء الاصطناعي الخاصة بها على سكان الاتحاد الأوروبي - بغض النظر عن مكان مقر الشركة.
كيف يمكنني الاستعداد للامتثال للمادة 6؟
ابدأ ببرنامج جاهزية لمدة 90 يومًا: (1) قم بجرد وكلاء الذكاء الاصطناعي لديك، (2) صنف قابلية تطبيق الملحق الثالث، (3) قم بتدقيق سجلات الحالية مقابل متطلبات حزمة القرار، (4) نشر بنية تحتية لتتبع القرارات، (5) إنشاء سير عمل للإشراف البشري، (6) إنشاء كتب تشغيل للاستجابة للجهات التنظيمية. توفر AIAgentree بنية تحتية مصممة خصيصًا للامتثال للمادة 6.
مواضيع ذات صلة
مقالات ذات صلة
تستحق قرارات الذكاء الاصطناعي إيصالات: لماذا يُعتبر تتبع القرارات الطبقة المفقودة في حوكمة الذكاء الاصطناعي
كل معاملة مالية تحصل على إيصال. كل عقد قانوني يحصل على توقيع. لكن قرارات الذكاء الاصطناعي التي تؤثر على ملايين الأشخاص؟ غير مرئية. تتغير تتبع القرارات ذلك من خلال التقاط السبب وراء كل قرار من قرارات الذكاء الاصطناعي.
GraphRAG لاتخاذ قرارات الذكاء الاصطناعي: لماذا تتفوق الرسوم البيانية على بحث المتجهات في ذاكرة الوكيل
تُعيد خوارزمية RAG على السجلات "حساء القطع" — قطع نصية غير متصلة تفتقر إلى الحجج المضادة، والموافقات، والسابقة التي جعلت القرار قابلاً للدفاع. عندما يتم تخزين القرارات كرسوم بيانية للحجج المعيارية، فإن الاسترجاع يُعيد حزمة قرار محدودة وقابلة للتدقيق بدلاً من ذلك.
ما هو الذكاء الاصطناعي الموثوق؟
تصنيف المخاطر العالية بموجب المادة 6 هو المكان الذي تتوقف فيه ممارسات الذكاء الاصطناعي الموثوق، والشفافية، والرقابة، والأدلة عن كونها اختيارية.
فريق AIAgentree
امتثال الذكاء الاصطناعي
يعمل فريق AIAgentree على بناء بنية تحتية لتتبع القرارات لوكلاء الذكاء الاصطناعي. مهمتنا هي جعل تفكير الذكاء الاصطناعي مرئيًا وقابلًا للتدقيق وقابلًا للتحسين.
ديسمبر 2027 قادم.
احجز فحص جاهزية لمدة 30 دقيقة للمادة 6 مع فريق الامتثال لدينا. سنقوم بتقييم حالتك الحالية ورسم الطريق نحو الامتثال.
احجز فحص الجاهزية