Rozporządzenie UE o AI dla HR i rekrutacji: zgodność z AI doboru personelu

Który AI HR jest wysokiego ryzyka

Punkt 4 załącznika III obejmuje zarządzanie pracownikami i zatrudnieniem w dwóch częściach:

• Punkt 4(a) — rekrutacja i selekcja. AI stosowany do umieszczania ukierunkowanych ogłoszeń o pracę, filtrowania lub przeglądania aplikacji i oceny kandydatów w trakcie wywiadów lub testów jest wysokiego ryzyka.
• Punkt 4(b) — stosunek pracy. AI stosowany do podejmowania lub istotnego wpływu na decyzje o awansie i zwolnieniu, do przydzielania zadań na podstawie zachowania lub cech osobowych i do monitorowania i oceny wydajności i zachowania jest wysokiego ryzyka.
• Zakres. Jest to jedna z najbardziej wyraźnie wyliczonych kategorii w załączniku III — parsery CV, narzędzia do analizy wywiadów, alokatory zadań w pracy na czas określony i systemy oceny wydajności są wszystkie w zakresie.

Klasyfikacja nie zależy od tego, czy osoba podejmuje ostateczną decyzję — narzędzie, które istotnie wpływa na decyzję o zatrudnieniu lub zwolnieniu, jest nadal wysokiego ryzyka.

Wzajemne powiązanie: konsultacja pracowników, lokalne prawo Nowego Jorku 144 i EEOC

AI doboru personelu znajduje się na przecięciu rozporządzenia o AI, prawa pracy UE i — dla operacji w USA — przepisów dotyczących audytu stronniczości.

• Informowanie pracowników i konsultacje. Przed wdrożeniem systemu wysokiego ryzyka w miejscu pracy wdrożyciele, którzy są pracodawcami, muszą poinformować dotkniętych pracowników i ich przedstawicieli (artykuł 26(7)), a obowiązki prawa pracy krajowego i konsultacji rady zakładowej mają zastosowanie na szczycie.
• Lokalne prawo Nowego Jorku 144. Firmy w USA korzystające z zautomatyzowanych narzędzi decyzyjnych w zatrudnieniu dla kandydatów lub pracowników w Nowym Jorku muszą zlecić niezależny roczny audyt stronniczości i opublikować podsumowanie — odrębny obowiązek, który prowadzi się równolegle do rozporządzenia o AI.
• EEOC i amerykańskie prawo antydyskryminacyjne. Tytuł VII, ADA i wytyczne EEOC dotyczące narzędzi algorytmicznych oznaczają, że system selekcji może być zgodny z jednym reżimem, a jednocześnie narażać pracodawcę na niezgodność z drugim — jeden ślad audytowy wrażliwy na stronniczość pomaga odpowiedzieć na oba.

Prowadź jeden program zarządzania, który spełnia najbardziej restrykcyjne stosowane prawo, zamiast odrębnego pościgu za jurysdykcją.

Podstawowe obowiązki dla AI doboru personelu

Dla systemu AI wysokiego ryzyka w zatrudnieniu najważniejsze są obowiązki wdrożyciela:

• Artykuł 14 — nadzór ludzki. Osoba musi być w stanie przeglądać, anulować i zignorować zalecenie AI; decyzja o zatrudnieniu nie może być w pełni zautomatyzowana.
• Artykuł 13 — transparentność dla wdrożycieli. Dostawca musi dać zespołom HR wystarczające informacje, aby zinterpretować dane wyjściowe narzędzia, zrozumieć jego ograniczenia i użyć go prawidłowo.
• Artykuł 10 — zarządzanie danymi. Dane szkoleniowe i testowe muszą być zbadane pod kątem stronniczości, aby narzędzie nie zakodowało dyskryminacji wobec grup chronionych.
• Artykuł 12 — rejestrowanie. Automatyczne zapisy pozwalają odtworzyć, dlaczego kandydat został odrzucony — dowód, który będzie wymagany przez audyt stronniczości lub roszczenie o dyskryminację.