มาตรา 14 ของกฎหมาย AI ของสหภาพยุโรป: แนวทางการนำไปใช้การกำกับดูแลโดยมนุษย์

มาตรา 14 กำหนดให้มีอะไรบ้าง

ผู้ให้บริการต้องออกแบบระบบ AI ที่มีความเสี่ยงสูง โดยมีส่วนต่อประสานระหว่างมนุษย์และเครื่องจักร ซึ่งช่วยให้มนุษย์สามารถกำกับดูแลระบบได้อย่างมีประสิทธิภาพตลอดวงจรชีวิต เป้าหมายคือเพื่อป้องกันหรือลดความเสี่ยงต่อสุขภาพ ความปลอดภัย หรือสิทธิขั้นพื้นฐาน

สิ่งที่สำคัญที่สุดคือ มาตรา 14 กำหนดปรัชญาที่ว่า “มนุษย์ต้องเป็นผู้ควบคุม” การมีมนุษย์เข้ามาเกี่ยวข้องในกระบวนการนั้นยังไม่เพียงพอ มนุษย์คนนั้นจะต้องมีความสามารถและอำนาจที่แท้จริงในการทำความเข้าใจ เข้าแทรกแซง และเปลี่ยนแปลง

ความสามารถในการกำกับดูแลที่จำเป็น 6 ประการ

มาตรา 14(4) ระบุความสามารถเฉพาะ 6 ประการที่การกำกับดูแลโดยมนุษย์จะต้องทำให้เกิดขึ้น:

• ทำความเข้าใจความสามารถและข้อจำกัด รวมถึงอคติที่ทราบ แนวโน้มของข้อผิดพลาด และขอบเขตความแม่นยำ
• เฝ้าติดตามความผิดปกติ รวมถึงการเปลี่ยนแปลง ความผิดปกติ และการเสื่อมสภาพ
• ตีความผลลัพธ์ โดยได้รับการสนับสนุนจากคุณสมบัติความโปร่งใสและความสามารถในการอธิบาย
• ตัดสินใจที่จะไม่ใช้ ปฏิเสธที่จะดำเนินการตามผลลัพธ์ของ AI เมื่อเหมาะสม
• แทรกแซงหรือหยุดชะงัก เช่น ปุ่มหยุด ชั่วคราว หรือรอการตรวจสอบ
• เปลี่ยนแปลงหรือย้อนกลับ เปลี่ยนแปลงผลลัพธ์ที่ AI จะสร้างขึ้น

ข้อกำหนดด้านเอกสาร

นอกเหนือจากการออกแบบระบบ ผู้ให้บริการจะต้องจัดทำเอกสารเพื่อพิสูจน์ว่าการกำกับดูแลนั้นมีประสิทธิภาพ:

• ผู้มีอำนาจกำกับดูแลที่กำหนด (ผู้ที่มีอำนาจในการเปลี่ยนแปลง)
• บันทึกการฝึกอบรมสำหรับบุคลากรที่ทำหน้าที่กำกับดูแล
• ขั้นตอนการเปลี่ยนแปลงและเส้นทางการส่งต่อ
• เหตุการณ์ที่บันทึกไว้ของการแทรกแซงและเหตุผล
• บันทึกที่พร้อมสำหรับการตรวจสอบว่ามีการใช้การกำกับดูแลเมื่อใดและเมื่อใดที่ไม่ได้ใช้

กฎพิเศษ: การระบุด้วยไบโอเมตริกซ์

สำหรับระบบการระบุด้วยไบโอเมตริกซ์จากระยะไกล มาตรา 14 กำหนดข้อกำหนดเพิ่มเติม:

การตัดสินใจที่สำคัญจะต้องได้รับการตรวจสอบโดยบุคคลที่มีความสามารถอย่างน้อยสองคน ยกเว้นในสถานการณ์ที่จำกัดด้านการบังคับใช้กฎหมายและการควบคุมชายแดน