Cómo planificar la alfabetización en IA exigida por la AI Act

01

Qué exige la AI Act sobre la alfabetización en IA

El artículo 4 del Reglamento (UE) 2024/1689 obliga a proveedores y responsables del despliegue de sistemas de IA a adoptar medidas para garantizar, en la medida de lo posible, un nivel suficiente de alfabetización en IA de su personal y de cualquier otra persona que se ocupe del funcionamiento y uso de los sistemas de IA en su nombre. La planificación debe considerar los conocimientos técnicos, la experiencia, la educación y la formación de quienes utilizan los sistemas, el contexto de uso y las personas o grupos sobre los que se utilizan los sistemas.

02

Definiciones clave de partida

La alfabetización en IA se define como las capacidades, los conocimientos y la comprensión que permiten a proveedores, responsables del despliegue y personas afectadas realizar un despliegue informado de los sistemas de IA, tomando conciencia de las oportunidades, los riesgos y los posibles daños. El proveedor es quien desarrolla o hace desarrollar un sistema de IA y lo introduce en el mercado; el responsable del despliegue es quien lo utiliza bajo su propia autoridad profesional.

03

Cómo construir el plan de formación

Pasos

1. Mapear los sistemas de IA en uso e identificar quién los opera o utiliza en nombre de la empresa.
2. Evaluar los conocimientos técnicos, la experiencia, la educación y la formación de las personas involucradas.
3. Considerar el contexto de uso y las personas o grupos sobre los que actúan los sistemas.
4. Vincular los itinerarios formativos al sistema de gestión de riesgos para los sistemas de alto riesgo.
5. Revisar y actualizar periódicamente la formación, siguiendo el proceso iterativo de gestión de riesgos.

04

Ejemplo hipotético: selección de personal asistida por IA

Ejemplo hipotético: una empresa que utiliza un sistema de IA para la selección de candidatos actúa como responsable del despliegue. El equipo que configura el sistema y el personal de RRHH que interpreta sus resultados tienen necesidades formativas distintas: los primeros deben comprender los ajustes técnicos, los segundos el contexto de uso y el impacto sobre las personas evaluadas, como exigen los criterios de alfabetización del reglamento.

05

Controles mínimos antes de lanzar la formación

• Lista de los sistemas de IA y de los roles, proveedor o responsable del despliegue, asociados a cada uno.
• Registro de los conocimientos técnicos y la experiencia del personal involucrado.
• Nota sobre el contexto operativo y las personas destinatarias del sistema.
• Vínculo entre la formación y las fases del sistema de gestión de riesgos.
• Evidencia de revisión periódica del plan formativo.

06

Configurar un rastro documental con un socio de software

En ausencia de funcionalidades de producto verificadas, una empresa puede optar por configurar, con su socio de software, un registro de sistemas de IA que indique el rol, las personas involucradas y el nivel de conocimiento requerido, para hacer trazable la planificación de la formación exigida por el artículo 4. También puede prever una revisión periódica de este registro, vinculada a las fases de identificación y actualización previstas en el sistema de gestión de riesgos de los sistemas de alto riesgo.

07

Aclaraciones sobre el alcance de la obligación

La definición de alfabetización en IA abarca tanto las competencias técnicas como la comprensión de los riesgos y las oportunidades, no solo el uso operativo del sistema.

La Comisión puede aprobar códigos de buenas prácticas o, si no son adecuados, adoptar normas comunes para la aplicación de obligaciones como las relativas a la alfabetización.

08

El siguiente paso práctico

El siguiente paso práctico es construir un inventario de los sistemas de IA con roles, competencias requeridas y vínculo con el sistema de gestión de riesgos, que debe revisarse periódicamente.