AI Act: qué roles empresariales deben participar en la gobernanza de la inteligencia artificial

01

Quién debe participar en la gobernanza de la IA

La AI Act distingue roles con obligaciones distintas: el proveedor que desarrolla o introduce en el mercado un sistema de IA, el implementador que lo utiliza bajo su propia autoridad, y el representante autorizado cuando el proveedor no está establecido en la Unión. A esto se suma un marco de responsabilidad interno que involucra a la dirección y al personal operativo.

02

Las definiciones clave del Reglamento

• Proveedor: persona u organismo que desarrolla o hace desarrollar un sistema de IA y lo introduce en el mercado con su propio nombre o marca
• Implementador: persona u organismo que utiliza un sistema de IA bajo su propia autoridad, excluido el uso personal no profesional
• Representante autorizado: entidad establecida en la UE con mandato escrito para cumplir obligaciones en nombre del proveedor
• Autoridad nacional competente: autoridad de notificación o de vigilancia del mercado que recibe comunicaciones pertinentes

03

Cómo distribuir las responsabilidades en la empresa

Pasos

1. Identificar si la empresa actúa como proveedor, implementador o ambos para cada sistema de IA
2. Definir un marco de responsabilidad que asigne tareas a la dirección y al personal involucrado
3. Vincular las responsabilidades a los sistemas de gestión de datos, riesgos y supervisión posterior a la comercialización
4. Establecer procedimientos para notificar incidentes graves y comunicarse con las autoridades nacionales competentes
5. Garantizar un nivel adecuado de alfabetización en IA para quienes operan los sistemas en nombre de la empresa

04

Ejemplo hipotético

Una empresa que desarrolla un sistema de IA para la selección de personal actúa como proveedor frente a sus clientes. El cliente que lo utiliza para contratar actúa como implementador. Ambos deben garantizar que el personal involucrado tenga una alfabetización suficiente sobre el funcionamiento del sistema, mientras que la dirección de la empresa proveedora asigna las responsabilidades sobre la gestión de datos y la supervisión posterior a la comercialización.

05

Verificación de los roles involucrados

• ¿Está claro si la empresa es proveedor, implementador o ambos para cada sistema de IA en uso?
• ¿Existe un marco de responsabilidad que asigne tareas específicas a la dirección y al personal?
• ¿El personal que opera los sistemas de IA tiene un nivel adecuado de alfabetización sobre ellos?
• ¿Están definidos los procedimientos de comunicación con las autoridades nacionales competentes en caso de incidente?

06

Cómo puede un software respaldar la gobernanza de roles

Una empresa puede configurar, junto con su socio de software, un registro de los sistemas de IA que indique para cada uno el rol asumido (proveedor o implementador), las personas responsables y las evidencias de alfabetización del personal. Esta es una elección operativa sugerida, no un requisito descrito como funcionalidad garantizada.

También es útil llevar un registro de las revisiones periódicas del marco de responsabilidad y de los contactos designados para la comunicación con las autoridades competentes, de modo que se pueda verificar quién aprobó qué y cuándo.

07

Preguntas frecuentes sobre los roles

Una empresa puede ser tanto proveedor como implementador si desarrolla un sistema de IA y lo utiliza internamente bajo su propia autoridad.

El representante autorizado interviene solo cuando el proveedor no está establecido en la Unión Europea y ha recibido un mandato escrito.

El marco de responsabilidad debe ser proporcional al tamaño de la organización del proveedor.

08

Próximo paso

Mapee los sistemas de IA de su empresa indicando para cada uno el rol asumido, los responsables designados y el estado de la alfabetización del personal involucrado.