ईयू एआई ऐक्टको धारा १४: मानव निरीक्षण कार्यान्वयन गाइड

धारा १४ ले के आवश्यक पर्दछ

प्रदायकहरूले उच्च जोखिम भएका एआई प्रणालीहरू मानव-मेशिन इन्टरफेसहरूसँग डिजाइन गर्नुपर्छ जसले मानिसहरूलाई यसको जीवनचक्रभरि प्रणालीको प्रभावकारी रूपमा निरीक्षण गर्न अनुमति दिन्छ। लक्ष्य भनेको स्वास्थ्य, सुरक्षा वा मौलिक अधिकारहरूमा जोखिमहरूलाई रोक्नु वा कम गर्नु हो।

यस लेख 14 मा 'मानव-नियन्त्रण' दर्शन अन्तर्निहित छ। केवल मानवलाई प्रक्रियामा समावेश गर्नु पर्याप्त हुँदैन—त्यस मानवमा बुझ्ने, हस्तक्षेप गर्ने, र परिवर्तन गर्ने वास्तविक क्षमता र अधिकार हुनुपर्छ।

आवश्यक पर्ने छ वटा निरीक्षण क्षमताहरू

लेख 14(4) मा मानव निरीक्षणले सक्षम पार्नुपर्ने छवटा विशिष्ट क्षमताहरूको सूची दिइएको छ:

• क्षमता र सीमाहरू बुझ्नु—जसमा ज्ञात पूर्वाग्रह, त्रुटि गर्ने प्रवृत्तिका साथै सटीकताको सीमाहरू समावेश छन्
• असामान्य कुराहरूका लागि निगरानी—जसमा विचलन, चरम मान, र क्षय समावेश छन्
• परिणामहरूको व्याख्या—जसलाई पारदर्शिता र व्याख्यात्मक सुविधाहरूले समर्थन गर्दछ
• प्रयोग नगर्ने निर्णय—जब उपयुक्त हुन्छ, एआईको परिणाममा कार्य गर्न अस्वीकार गर्नुहोस्
• हस्तक्षेप वा अवरोध—स्टप बटन, बिराम, वा समीक्षाको लागि रोक्नुहोस्
• परिवर्तन वा उल्ट्याउनु—एआईले उत्पादन गर्ने नतिजा परिवर्तन गर्नुहोस्

प्रलेखन आवश्यकताहरू

सिस्टम डिजाइन बाहेक, कार्यान्वयनकर्ताहरूले निरीक्षण प्रभावकारी छ भन्ने प्रमाणित गर्ने प्रलेखन राख्नुपर्छ:

• नियुक्त निरीक्षण अधिकार (जससँग परिवर्तन गर्ने शक्ति छ)
• निरीक्षण कर्मचारीहरूका लागि तालिम अभिलेख
• परिवर्तन प्रक्रियाहरू र समस्या समाधान गर्ने मार्गहरू
• हस्तक्षेपका घटनाहरू र तिनको कारणको अभिलेख
• निरीक्षण कहिले गरियो र कहिले गरिएन भन्ने कुराको लेखापरीक्षण-तयार अभिलेख

विशेष नियम: बायोमेट्रिक पहिचान

दूरस्थ बायोमेट्रिक पहिचान प्रणालीका लागि, लेख 14 ले थप आवश्यकताहरू लगाउँछ:

महत्वपूर्ण निर्णयहरू कम्तीमा दुई जना सक्षम व्यक्तिद्वारा प्रमाणित गरिनु पर्छ, सीमित कानून प्रवर्तन र सीमा नियन्त्रण परिदृश्यहरूमा बाहेक।