Gobernanza de la IA en la empresa: qué roles se necesitan según el AI Act

01

Los roles previstos por el reglamento

El Reglamento (UE) 2024/1689 identifica roles precisos para involucrar en la gobernanza de la IA: el proveedor, que desarrolla o hace desarrollar el sistema y lo introduce en el mercado; el responsable del despliegue, que lo utiliza bajo su propia autoridad profesional; y, cuando corresponda, el representante autorizado en la Unión. Junto a estos, un marco de responsabilidad asigna tareas precisas a la dirección y al resto del personal sobre datos, riesgos, incidentes y registros. Proveedores y responsables del despliegue deben además garantizar un nivel suficiente de alfabetización en materia de IA para quienes operan los sistemas en su nombre.

02

De dónde vienen estas definiciones

El artículo 3 del reglamento distingue proveedor, responsable del despliegue y representante autorizado según el grado de control ejercido sobre el sistema de IA. El artículo 4 añade la obligación de alfabetización en materia de IA para el personal, calibrada según los conocimientos técnicos, la experiencia, la educación y el contexto de uso. El marco de responsabilidad exigido a los proveedores de sistemas de alto riesgo asigna tareas a la dirección sobre gestión de datos, riesgos, seguimiento posterior a la comercialización, incidentes, registros y comunicación con las autoridades.

03

Cómo asignar los roles paso a paso

Pasos

1. Clasifique la empresa como proveedor, responsable del despliegue o representante autorizado para cada sistema de IA utilizado.
2. Si la empresa es proveedora de sistemas de IA de alto riesgo, asigne a la dirección el marco de responsabilidad sobre datos, riesgos, incidentes y registros requerido para su sistema de gestión de calidad.
3. Planifique itinerarios de alfabetización en materia de IA para el personal operativo.
4. Defina canales de comunicación con las autoridades nacionales competentes pertinentes.
5. Conserve la documentación de las decisiones y los registros pertinentes.

04

Ejemplo hipotético

Ejemplo hipotético: una empresa europea que utiliza un sistema de IA para la selección de candidaturas actúa como responsable del despliegue, mientras que el proveedor del software sigue siendo responsable del desarrollo. La dirección asigna a un responsable interno la tarea de supervisar riesgos e incidentes según el marco de responsabilidad previsto para los proveedores de sistemas de alto riesgo, y organiza una sesión de alfabetización en materia de IA para el equipo que opera la herramienta, en línea con el artículo 4 del reglamento.

05

Verificar antes de proceder

• Roles de proveedor, responsable del despliegue y representante autorizado identificados para cada sistema.
• Marco de responsabilidad de la dirección documentado para datos, riesgos e incidentes, si la empresa es proveedora de sistemas de alto riesgo.
• Alfabetización en materia de IA planificada para el personal operativo.
• Canal de comunicación con la autoridad nacional competente identificado.

06

Cómo un software de gestión puede apoyar la gobernanza

Una empresa puede solicitar a su socio de software un registro de roles (proveedor, responsable del despliegue, representante autorizado) para cada sistema de IA, con campos trazables para asignar responsabilidades a la dirección. Flujos de revisión periódica, recordatorios de formación para el personal y un historial de comunicaciones con las autoridades competentes son opciones operativas sugeridas, no una obligación derivada del reglamento.

07

Preguntas frecuentes sobre los roles

Las siguientes preguntas aclaran definiciones ya citadas en el artículo, sin introducir nuevas obligaciones.

08

El primer paso práctico

Mapee los sistemas de IA en uso, asigne roles y responsabilidades según el artículo 3, y planifique la primera sesión de alfabetización en materia de IA para quienes los utilizan, como prevé el artículo 4.