Artykuł 10 rozporządzenia UE w sprawie sztucznej inteligencji: Zarządzanie danymi

Co wymaga artykuł 10

Systemy sztucznej inteligencji o wysokim ryzyku, które są szkolone z użyciem danych, muszą być rozwijane na podstawie zestawów danych szkoleniowych, walidacyjnych i testowych, które spełniają kryteria jakości określone w artykule 10, gdy takie zestawy danych są używane.

Obowiązek spoczywa na dostawcy, a dotyczy odpowiednich praktyk zarządzania danymi i zarządzania przez cały cykl życia danych — od wyborów projektowych i zbierania przez przygotowanie, sprawdzanie i łagodzenie. Zarządzanie danymi zgodnie z artykułem 10 jest jednym z wymagań, które dokumentacja techniczna Załącznika IV i system QMS artykułu 17 muszą opisać i kontrolować.

Kryteria jakości danych

Zestawy danych szkoleniowych, walidacyjnych i testowych muszą być przedmiotem praktyk zarządzania danymi odpowiednich do zamierzonego celu, uwzględniając w szczególności:

• Istotność i reprezentatywność — zestawy danych muszą być istotne, wystarczająco reprezentatywne oraz, w możliwym zakresie, pozbawione błędów i kompletne w odniesieniu do zamierzonego celu
• Właściwości statystyczne — w tym, w stosownych przypadkach, odnoszące się do osób lub grup osób, na których system ma być używany
• Wybory projektowe i pochodzenie — istotne założenia projektowe oraz sposób, w jaki dane zostały zebrane, ich pochodzenie oraz, w przypadku danych osobowych, pierwotny cel zbierania
• Przygotowanie danych — operacje annotacji, oznaczania, czyszczenia, aktualizacji, wzbogacania i agregacji muszą być udokumentowane
• Pokrycie kontekstowe — dane muszą uwzględniać ustawienie geograficzne, kontekstowe, behawioralne lub funkcjonalne, w którym system o wysokim ryzyku ma być używany

Sprawdzanie stronniczości, łagodzenie i luki w danych

Artykuł 10 wymaga wyraźnie od dostawców, aby szukali i rozwiązywali problemy związane ze stronniczością i lukami w danych:

• Sprawdzanie pod kątem stronniczości, które mogą wpłynąć na zdrowie i bezpieczeństwo, mają negatywny wpływ na podstawowe prawa lub prowadzą do zakazanej dyskryminacji — szczególnie w przypadku, gdy dane wyjściowe wpływają na dane wejściowe do przyszłych operacji (pętle sprzężenia zwrotnego)
• Stosowanie odpowiednich środków łagodzących w przypadku zidentyfikowanych stronniczości podczas tego sprawdzania
• Identyfikacja i rozwiązywanie luk i braków w danych, które mogą uniemożliwić zgodność, oraz dokumentowanie, w jaki sposób są one obsługiwane
• Dokumentowanie uzasadnienia, aby sprawdzanie stronniczości i łagodzenie były audytowalne, a nie tylko wykonywane

Warunki dotyczące specjalnych kategorii danych

Artykuł 10 zezwala na przetwarzanie specjalnych kategorii danych osobowych, ale tylko w ściśle określonym zakresie, w jakim jest to niezbędne do wykrywania i korygowania stronniczości, oraz pod warunkiem środków ochrony.

Oznacza to, że wyjątek ma zastosowanie tylko wtedy, gdy wykrywanie i korygowanie stronniczości nie mogą być skutecznie osiągnięte za pomocą syntetycznych, anonimowych lub innych nie-specjalnych kategorii danych. Gdy są używane specjalne kategorie danych, muszą one być objęte odpowiednimi środkami ochrony praw i wolności osób, w tym ograniczeniami technicznymi ponownego wykorzystania, środkami bezpieczeństwa i ochrony prywatności, ścisłymi kontrolami dostępu i dokumentacją oraz usunięciem po skorygowaniu stronniczości lub po upływie okresu przechowywania danych.

Zezwolenie artykułu 10 na specjalne kategorie danych działa obok RODO, a nie zamiast niego — własne warunki RODO dotyczące przetwarzania specjalnych kategorii nadal mają zastosowanie.