Sistemas de IA en la empresa: cómo documentar finalidad, datos, roles y controles

01

Qué hay que documentar

Un sistema de IA debe documentarse a partir de su definición: un sistema automatizado que, a partir de datos de entrada, infiere resultados como predicciones, contenidos o decisiones con niveles de autonomía variables (citation-2).

Luego se necesitan los roles implicados (proveedor y responsable del despliegue), los tipos de datos utilizados y las medidas de transparencia hacia las personas expuestas al sistema (citation-2, citation-1, citation-0).

02

Por qué la transparencia es central

El Reglamento exige que los resultados generados o manipulados artificialmente se marquen en un formato legible por máquina, y que los responsables del despliegue de sistemas de reconocimiento de emociones o de categorización biométrica informen a las personas físicas expuestas (citation-0). Para las ultrafalsificaciones y los textos sobre cuestiones de interés público se requiere una divulgación clara, salvo revisión editorial humana (citation-3).

03

Secuencia para documentar un sistema

Pasos

1. Describe el sistema según la definición del artículo 3: función, autonomía, tipo de salida producida (citation-2).
2. Clasifica los datos utilizados: entrenamiento, validación, prueba, entrada, biométricos (citation-1).
3. Identifica los roles: quién es proveedor, quién es responsable del despliegue del sistema (citation-2).
4. Registra las medidas de transparencia aplicadas: marcado, aviso, divulgación de ultrafalsificaciones (citation-0, citation-3).
5. Planifica la alfabetización en materia de IA del personal implicado (citation-4).

04

Un caso hipotético

Hipótesis: una empresa utiliza un sistema de categorización biométrica para el acceso a un área restringida. Como responsable del despliegue, informa a las personas físicas expuestas sobre el funcionamiento del sistema, como exige el Reglamento (citation-0). También documenta los datos biométricos tratados (citation-1), su propio rol de responsable del despliegue (citation-2) y las actividades de alfabetización realizadas con el personal que gestiona el sistema (citation-4).

05

Controles a verificar

• La definición del sistema es coherente con el artículo 3 (autonomía, entrada, salida) (citation-2).
• Los datos de entrenamiento, validación, prueba y entrada están distinguidos y clasificados (citation-1).
• Los roles de proveedor y responsable del despliegue están asignados sin ambigüedad (citation-2).
• Las personas expuestas a reconocimiento de emociones o categorización biométrica están informadas (citation-0).
• La información de transparencia se proporciona a más tardar en la primera interacción (citation-3).

06

Cómo un software de gestión puede apoyar la documentación

• Un socio de software puede configurar campos para registrar la finalidad declarada de cada sistema de IA utilizado (citation-2).
• Puede prever roles distintos para proveedor y responsable del despliegue, con trazabilidad de quién introdujo los datos (citation-2).
• Puede etiquetar los conjuntos de datos por tipo: entrenamiento, validación, prueba, entrada (citation-1).
• Puede registrar los avisos proporcionados a las personas expuestas y la fecha de la primera interacción (citation-3).
• Puede rastrear las actividades de alfabetización realizadas con el personal implicado (citation-4).

07

Preguntas frecuentes sobre la documentación

La documentación mínima abarca la definición del sistema, los roles, los tipos de datos y las medidas de transparencia aplicadas (citation-2, citation-1, citation-0). La alfabetización del personal es una medida complementaria exigida por el Reglamento (citation-4).

08

Siguiente paso

Construye un inventario de los sistemas de IA utilizados en la empresa, con finalidad, datos, roles y medidas de transparencia documentados para cada uno, de modo que tengas una base lista para la revisión (citation-2, citation-1, citation-0).