Gobernanza de la inteligencia artificial: qué roles empresariales involucrar según el AI Act

01

La respuesta en breve

El AI Act distingue roles precisos: el proveedor que desarrolla o introduce en el mercado un sistema de IA, el responsable del despliegue que lo utiliza bajo su propia autoridad, y el eventual representante autorizado en la Unión. A esto se añade un marco de responsabilidad que asigna tareas a la dirección y al resto del personal, y una obligación de alfabetización en materia de IA para quienes operan los sistemas.

02

Por qué importan estas distinciones

El proveedor es quien desarrolla el sistema o lo hace desarrollar y lo introduce en el mercado con su propio nombre; el responsable del despliegue es quien lo utiliza bajo su propia autoridad, salvo uso personal no profesional. El representante autorizado es una persona en la Unión que ha recibido un mandato escrito del proveedor para ejecutar obligaciones en su nombre. Saber en qué rol se encuentra la empresa determina qué obligaciones se aplican.

03

Cómo asignar los roles paso a paso

Pasos

1. Verificar si la empresa desarrolla un sistema de IA o lo utiliza bajo su propia autoridad.
2. Definir un marco de responsabilidad que asigne tareas a la dirección y al personal.
3. Identificar quién gestiona los sistemas y procedimientos para los datos usados por el sistema de IA.
4. Garantizar un nivel suficiente de alfabetización en materia de IA para quienes operan los sistemas.
5. Establecer los canales de comunicación con las autoridades competentes en caso de incidente.

04

Un caso hipotético

Ejemplo hipotético: una pyme utiliza un sistema de IA para la selección preliminar de candidatos. En este caso, la empresa actúa como responsable del despliegue, ya que utiliza el sistema bajo su propia autoridad. La dirección de RRHH debería recibir formación suficiente sobre el funcionamiento del sistema, mientras que la dirección define quién responde de las decisiones tomadas con su apoyo.

05

Checklist de verificación

• ¿Está claro si la empresa es proveedor, responsable del despliegue o ambos para cada sistema de IA?
• ¿Existe un marco de responsabilidad que nombre quién responde de cada aspecto?
• ¿El personal que opera los sistemas tiene un nivel suficiente de alfabetización en materia de IA?
• ¿Están definidos los procedimientos para la gestión de datos y la conservación de la documentación?
• ¿Está claro quién gestiona la comunicación con las autoridades competentes en caso de incidente?

06

Qué puede configurar una empresa con el apoyo de un socio de software

Una empresa puede pedir a su socio de software que apoye un inventario de los sistemas de IA utilizados, indicando quién es proveedor o responsable del despliegue para cada uno, quién forma parte del marco de responsabilidad y quién ha recibido formación suficiente. Estos elementos siguen siendo decisiones operativas de la empresa, no funcionalidades garantizadas, pero una buena trazabilidad ayuda a mantener la coherencia entre los roles asignados y las actividades efectivamente realizadas.

07

Preguntas frecuentes sobre los roles

El responsable del despliegue no es automáticamente el proveedor: depende de quién desarrolla e introduce el sistema en el mercado frente a quién lo utiliza bajo su propia autoridad.

El marco de responsabilidad no concierne solo a la dirección: también define las tareas de otro personal implicado en la gestión del sistema de IA.

La alfabetización en materia de IA se exige en la medida de lo posible y tiene en cuenta los conocimientos, la experiencia y la formación ya presentes en el personal.

08

Próximo paso

Antes de adoptar un nuevo sistema de IA, mapea los roles empresariales implicados y asigna un marco de responsabilidad claro: es la base de toda verificación posterior.