Ley de IA de la UE: Monitoreo y Notificación de Incidentes en el Mercado (Artículos 72–73)

Artículo 72: Monitoreo en el Mercado

Los proveedores de sistemas de IA de alto riesgo deben monitorear activamente cómo se desempeñan sus sistemas después de que se coloquen en el mercado o se pongan en servicio:

• Establezca y documente un sistema de monitoreo en el mercado proporcional a la naturaleza de la tecnología de IA y sus riesgos
• Recopile, documente y analice datos relevantes sobre el rendimiento en todo el ciclo de vida del sistema, incluidos datos de desplegadores y otras fuentes
• Base la actividad en un plan de monitoreo en el mercado que forma parte de la documentación técnica — la Comisión proporcionará una plantilla
• Utilice el monitoreo para evaluar el cumplimiento continuo y detectar problemas que requieren acción correctiva

Artículo 73: Notificación de Incidentes Graves

Cuando algo sale seriamente mal, el Artículo 73 impone plazos cortos y escalonados para informar a la autoridad de supervisión del mercado. Un incidente grave incluye la muerte o daño grave a la salud, una interrupción grave e irreversible de la infraestructura crítica, una violación de las obligaciones de derechos fundamentales, o un daño grave a la propiedad o el medio ambiente:

• Regla general: informe inmediatamente después de que el proveedor establezca una conexión causal (o una probabilidad razonable) entre el sistema y el incidente, y no más tarde de 15 días después de enterarse
• Infracción generalizada o interrupción grave e irreversible de la infraestructura crítica: no más tarde de 2 días
• Muerte de una persona: no más tarde de 10 días
• Un informe inicial, posiblemente incompleto, puede presentarse primero para cumplir con el plazo, seguido de un informe completo; el proveedor también debe investigar y tomar medidas correctivas

El reloj es corto — días, no meses. Reconstruir lo que un agente hizo, después de los hechos, sin un registro duradero es exactamente donde los equipos se quedan atrapados.

El Bucle de Retroalimentación al Artículo 9

El monitoreo y la notificación de incidentes no son papeleo independiente — cierran el bucle de retroalimentación al sistema de gestión de riesgos:

• Los hallazgos de la vigilancia post-mercado alimentan el sistema de gestión de riesgos del artículo 9, que debe ser un proceso continuo e iterativo a lo largo del ciclo de vida
• Los incidentes graves y los riesgos identificados desencadenan la revisión y actualización de los controles de riesgos y, cuando sea necesario, la documentación técnica
• Esto hace que el cumplimiento sea una disciplina operativa continua, y no un ejercicio de conformidad pre-mercado de una sola vez
• La buena evidencia de producción es lo que te permite informar con precisión y demostrar que actuaste sobre lo que encontraste