Systèmes d'IA en entreprise : comment documenter la finalité, les données, les rôles et les contrôles

01

Ce qu'il faut documenter

Un système d'IA doit être documenté en partant de sa définition : un système automatisé qui, à partir de données d'entrée, déduit des sorties telles que des prédictions, contenus ou décisions avec des niveaux d'autonomie variables (citation-2).

Il faut ensuite les rôles impliqués (fournisseur et déployeur), les types de données utilisées et les mesures de transparence envers les personnes exposées au système (citation-2, citation-1, citation-0).

02

Pourquoi la transparence est centrale

Le règlement exige que les sorties générées ou manipulées artificiellement soient marquées dans un format lisible par machine, et que les déployeurs de systèmes de reconnaissance des émotions ou de catégorisation biométrique informent les personnes physiques exposées (citation-0). Pour les deepfakes et les textes sur des questions d'intérêt public, une divulgation claire est requise, sauf en cas de révision éditoriale humaine (citation-3).

03

Séquence pour documenter un système

Étapes

1. Décrivez le système selon la définition de l'article 3 : fonction, autonomie, type de sortie produite (citation-2).
2. Classez les données utilisées : entraînement, validation, test, entrée, biométriques (citation-1).
3. Identifiez les rôles : qui est fournisseur, qui est déployeur du système (citation-2).
4. Enregistrez les mesures de transparence appliquées : marquage, information, divulgation deepfake (citation-0, citation-3).
5. Planifiez la sensibilisation à l'IA du personnel impliqué (citation-4).

04

Un cas hypothétique

Hypothèse : une entreprise utilise un système de catégorisation biométrique pour l'accès à une zone réservée. En tant que déployeur, elle informe les personnes physiques exposées sur le fonctionnement du système, comme requis par le règlement (citation-0). Elle documente également les données biométriques traitées (citation-1), son propre rôle de déployeur (citation-2) et les activités de sensibilisation menées avec le personnel qui gère le système (citation-4).

05

Contrôles à vérifier

• La définition du système est cohérente avec l'article 3 (autonomie, entrée, sortie) (citation-2).
• Les données d'entraînement, de validation, de test et d'entrée sont distinctes et classées (citation-1).
• Les rôles de fournisseur et de déployeur sont attribués sans ambiguïté (citation-2).
• Les personnes exposées à la reconnaissance des émotions ou à la catégorisation biométrique sont informées (citation-0).
• Les informations de transparence sont fournies au plus tard lors de la première interaction (citation-3).

06

Comment un logiciel de gestion peut soutenir la documentation

• Un partenaire logiciel peut configurer des champs pour enregistrer la finalité déclarée de chaque système d'IA utilisé (citation-2).
• Il peut prévoir des rôles distincts pour fournisseur et déployeur, avec traçabilité de qui a saisi les données (citation-2).
• Il peut étiqueter les jeux de données par type : entraînement, validation, test, entrée (citation-1).
• Il peut enregistrer les informations fournies aux personnes exposées et la date de la première interaction (citation-3).
• Il peut suivre les activités de sensibilisation menées avec le personnel impliqué (citation-4).

07

Questions fréquentes sur la documentation

La documentation minimale porte sur la définition du système, les rôles, les types de données et les mesures de transparence appliquées (citation-2, citation-1, citation-0). La sensibilisation du personnel est une mesure complémentaire requise par le règlement (citation-4).

08

Prochaine étape

Construisez un inventaire des systèmes d'IA utilisés en entreprise, avec finalité, données, rôles et mesures de transparence documentés pour chacun, afin d'avoir une base prête pour la révision (citation-2, citation-1, citation-0).