Artikel 14 UU AI UE: Panduan Implementasi Pengawasan Manusia

Apa yang Diminta oleh Artikel 14

Penyedia harus merancang sistem AI berisiko tinggi dengan antarmuka manusia-mesin yang memungkinkan manusia untuk secara efektif mengawasi sistem selama siklus hidupnya. Tujuannya adalah untuk mencegah atau meminimalkan risiko terhadap kesehatan, keselamatan, atau hak-hak fundamental.

Yang terpenting, Pasal 14 mencakup filosofi 'manusia sebagai pengendali'. Tidak cukup hanya memiliki manusia dalam proses pengambilan keputusan — manusia tersebut harus memiliki kemampuan dan wewenang yang sebenarnya untuk memahami, melakukan intervensi, dan mengganti keputusan.

Enam Kemampuan Pengawasan yang Diperlukan

Pasal 14(4) mencantumkan enam kemampuan khusus yang harus diaktifkan oleh pengawasan manusia:

• Memahami kemampuan dan keterbatasan — termasuk bias yang diketahui, kecenderungan kesalahan, dan batasan akurasi
• Memantau anomali — termasuk penyimpangan, outlier, dan degradasi
• Menafsirkan hasil — didukung oleh fitur transparansi dan kemampuan penjelasan
• Memutuskan untuk tidak menggunakan — menolak untuk bertindak berdasarkan hasil AI ketika sesuai
• Melakukan intervensi atau mengganggu — tombol berhenti, jeda, atau penangguhan untuk ditinjau
• Mengganti atau membalikkan — mengubah hasil yang akan dihasilkan oleh AI

Persyaratan Dokumentasi

Selain desain sistem, pihak yang menerapkan harus memelihara dokumentasi yang membuktikan bahwa pengawasan efektif:

• Otoritas pengawasan yang ditunjuk (siapa yang memiliki wewenang untuk mengganti keputusan)
• Catatan pelatihan untuk personel pengawasan
• Prosedur penggantian keputusan dan jalur eskalasi
• Insiden intervensi yang tercatat dan alasannya
• Catatan yang siap untuk audit tentang kapan pengawasan dilakukan dan kapan tidak

Aturan Khusus: Identifikasi Biometrik

Untuk sistem identifikasi biometrik jarak jauh, Pasal 14 memberlakukan persyaratan tambahan:

Keputusan penting harus diverifikasi oleh setidaknya dua individu yang kompeten, kecuali dalam skenario penegakan hukum dan pengendalian perbatasan yang terbatas.