Ley de IA de la UE para RRHH y contratación: Cumplimiento de la IA de contratación

¿Qué IA de RRHH es de alto riesgo

El Anexo III punto 4 cubre la gestión de empleo y trabajadores en dos partes:

• Punto 4(a) — contratación y selección. La IA utilizada para colocar anuncios de trabajo dirigidos, filtrar o seleccionar solicitudes y evaluar candidatos en el curso de entrevistas o pruebas es de alto riesgo.
• Punto 4(b) — la relación laboral. La IA utilizada para tomar o informar materialmente decisiones sobre promoción y terminación, para asignar tareas en función del comportamiento o los rasgos personales y para monitorear y evaluar el rendimiento y el comportamiento es de alto riesgo.
• Amplitud. Esta es una de las categorías más claramente enumeradas en el Anexo III — los analizador de CV, las herramientas de análisis de entrevistas, los asignadores de tareas de trabajo freelance y los sistemas de puntuación de rendimiento están todos en el ámbito.

La clasificación no depende de si un humano toma la decisión final — una herramienta que informa materialmente una decisión de contratación o despido sigue siendo de alto riesgo.

Interacción: Consulta de trabajadores, Ley Local 144 de la Ciudad de Nueva York y la Comisión para la Igualdad de Oportunidades en el Empleo

La IA de contratación se encuentra en la intersección de la Ley de IA, la ley laboral de la UE y — para las operaciones en los EE. UU. — las reglas de auditoría de sesgo.

• Información y consulta de trabajadores. Antes de desplegar un sistema de alto riesgo en el trabajo, los desplegadores que son empleadores deben informar a los trabajadores afectados y sus representantes (Artículo 26(7)), y las obligaciones de consulta de la ley laboral nacional y del consejo de trabajadores se aplican encima.
• Ley Local 144 de la Ciudad de Nueva York. Las empresas de los EE. UU. que utilizan herramientas de decisión automatizadas de empleo para candidatos o empleados en la Ciudad de Nueva York deben encargar una auditoría anual independiente de sesgo y publicar un resumen — una obligación distinta que se ejecuta en paralelo con la Ley de IA.
• Comisión para la Igualdad de Oportunidades en el Empleo y la ley antidiscriminatoria de los EE. UU. El Título VII, la Ley de Discapacidades de los EE. UU. y la orientación de la Comisión para la Igualdad de Oportunidades en el Empleo sobre herramientas algorítmicas significan que un sistema de selección puede ser legal bajo un régimen y exponer al empleador bajo otro — una sola pista de auditoría consciente del sesgo ayuda a responder a ambos.

Ejecute un solo programa de gobernanza que satisfaga la regla aplicable más estricta en lugar de una búsqueda separada por jurisdicción.

Obligaciones básicas para la IA de contratación

Para un sistema de alto riesgo de empleo, las obligaciones que enfrentan al desplegador son las más importantes:

• Artículo 14 — supervisión humana. Una persona debe poder revisar, anular y descartar el ranking o la recomendación de la IA; la decisión de contratación no puede automatizarse efectivamente.
• Artículo 13 — transparencia para los desplegadores. El proveedor debe dar a los equipos de RRHH suficiente información para interpretar la salida de la herramienta, entender sus limitaciones y usarla correctamente.
• Artículo 10 — gobernanza de datos. Los datos de entrenamiento y evaluación deben examinarse en busca de sesgo para que la herramienta no codifique la discriminación contra grupos protegidos.
• Artículo 12 — registro. Los registros automáticos permiten reconstruir por qué un candidato fue seleccionado — la evidencia que una auditoría de sesgo o una reclamación de discriminación exigiría.