Comment planifier la littératie en IA exigée par l'AI Act

01

Ce que l'AI Act exige en matière de littératie en IA

L'article 4 du règlement (UE) 2024/1689 impose aux fournisseurs et aux déployeurs de systèmes d'IA de prendre des mesures pour garantir, dans la mesure du possible, un niveau suffisant de littératie en IA de leur personnel ainsi que de toute autre personne s'occupant du fonctionnement et de l'utilisation des systèmes d'IA en leur nom. La planification doit tenir compte des connaissances techniques, de l'expérience, de l'éducation et de la formation des utilisateurs, du contexte d'utilisation et des personnes ou groupes sur lesquels les systèmes sont utilisés.

02

Définitions clés de départ

La littératie en IA est définie comme les compétences, les connaissances et la compréhension qui permettent aux fournisseurs, aux déployeurs et aux personnes concernées de procéder à un déploiement informé des systèmes d'IA, en prenant conscience des opportunités, des risques et des dommages possibles. Le fournisseur est celui qui développe ou fait développer un système d'IA et le met sur le marché ; le déployeur est celui qui l'utilise sous sa propre autorité professionnelle.

03

Comment construire le plan de formation

Étapes

1. Cartographier les systèmes d'IA utilisés et identifier qui les exploite ou les utilise pour le compte de l'entreprise.
2. Évaluer les connaissances techniques, l'expérience, l'éducation et la formation des personnes impliquées.
3. Prendre en compte le contexte d'utilisation et les personnes ou groupes sur lesquels les systèmes agissent.
4. Relier les parcours de formation au système de gestion des risques pour les systèmes à haut risque.
5. Réexaminer et mettre à jour périodiquement la formation, en suivant le processus itératif de gestion des risques.

04

Exemple hypothétique : sélection du personnel assistée par l'IA

Exemple hypothétique : une entreprise qui utilise un système d'IA pour la sélection des candidats agit comme déployeur. L'équipe qui configure le système et les responsables RH qui interprètent ses résultats ont des besoins de formation différents : les premiers doivent comprendre les paramètres techniques, les seconds le contexte d'utilisation et l'impact sur les personnes évaluées, comme le prévoient les critères de littératie du règlement.

05

Contrôles minimaux avant de lancer la formation

• Liste des systèmes d'IA et des rôles, fournisseur ou déployeur, associés à chacun.
• Registre des connaissances techniques et de l'expérience du personnel impliqué.
• Note sur le contexte opérationnel et les personnes destinataires du système.
• Lien entre la formation et les phases du système de gestion des risques.
• Preuve d'un réexamen périodique du plan de formation.

06

Mettre en place une trace documentaire avec un partenaire logiciel

En l'absence de fonctionnalités de produit vérifiées, une entreprise peut choisir de configurer, avec son partenaire logiciel, un registre des systèmes d'IA indiquant le rôle, les personnes impliquées et le niveau de connaissance requis, afin de rendre traçable la planification de la formation exigée par l'article 4. Elle peut également prévoir un réexamen périodique de ce registre, lié aux phases d'identification et de mise à jour prévues pour le système de gestion des risques des systèmes à haut risque.

07

Précisions sur la portée de l'obligation

La définition de la littératie en IA couvre à la fois les compétences techniques et la compréhension des risques et des opportunités, pas seulement l'utilisation opérationnelle du système.

La Commission peut approuver des codes de bonnes pratiques ou, s'ils ne sont pas adéquats, adopter des règles communes pour la mise en œuvre d'obligations telles que celles sur la littératie.

08

L'étape pratique suivante

L'étape pratique suivante consiste à construire un inventaire des systèmes d'IA avec les rôles, les compétences requises et le lien avec le système de gestion des risques, à réexaminer périodiquement.