01
Les rôles prévus par le règlement
Le règlement (UE) 2024/1689 identifie des rôles précis à impliquer dans la gouvernance de l'IA : le fournisseur, qui développe ou fait développer le système et le met sur le marché ; le déployeur, qui l'utilise sous sa propre autorité professionnelle ; et, le cas échéant, le mandataire établi dans l'Union. À cela s'ajoute un cadre de responsabilité qui attribue des tâches précises à la direction et au reste du personnel concernant les données, les risques, les incidents et les registres. Les fournisseurs et déployeurs doivent également garantir un niveau suffisant de littératie en matière d'IA pour ceux qui exploitent les systèmes en leur nom.
02
D'où viennent ces définitions
L'article 3 du règlement distingue fournisseur, déployeur et mandataire selon le degré de contrôle exercé sur le système d'IA. L'article 4 ajoute l'obligation de littératie en matière d'IA pour le personnel, calibrée selon les connaissances techniques, l'expérience, l'éducation et le contexte d'utilisation. Le cadre de responsabilité requis des fournisseurs de systèmes à haut risque attribue des tâches à la direction concernant la gestion des données, les risques, la surveillance post-commercialisation, les incidents, les registres et la communication avec les autorités.
03
Comment attribuer les rôles étape par étape
Étapes
- Classez l'entreprise comme fournisseur, déployeur ou mandataire pour chaque système d'IA utilisé.
- Si l'entreprise est fournisseur de systèmes d'IA à haut risque, attribuez à la direction le cadre de responsabilité pour les données, les risques, les incidents et les registres requis pour son système de gestion de la qualité.
- Planifiez des parcours de littératie en matière d'IA pour le personnel opérationnel.
- Définissez des canaux de communication avec les autorités nationales compétentes pertinentes.
- Conservez la documentation des décisions et des registres pertinents.
04
Exemple hypothétique
Exemple hypothétique : une entreprise européenne utilisant un système d'IA pour le tri de candidatures agit comme déployeur, tandis que le fournisseur du logiciel reste responsable du développement. La direction confie à un responsable interne la surveillance des risques et incidents selon le cadre de responsabilité prévu pour les fournisseurs de systèmes à haut risque, et organise une session de littératie en matière d'IA pour l'équipe qui exploite l'outil, conformément à l'article 4 du règlement.
05
Vérifier avant de procéder
- Rôles fournisseur, déployeur et mandataire identifiés pour chaque système.
- Cadre de responsabilité de la direction documenté pour les données, les risques et les incidents, si l'entreprise est fournisseur de systèmes à haut risque.
- Littératie en matière d'IA planifiée pour le personnel opérationnel.
- Canal de communication avec l'autorité nationale compétente identifié.
06
Comment un logiciel de gestion peut soutenir la gouvernance
Une entreprise peut demander à son partenaire logiciel un registre des rôles (fournisseur, déployeur, mandataire) pour chaque système d'IA, avec des champs traçables pour attribuer des responsabilités à la direction. Des workflows de révision périodique, des rappels de formation pour le personnel et un historique des communications avec les autorités compétentes sont des choix opérationnels suggérés, non une obligation découlant du règlement.
07
Questions fréquentes sur les rôles
Les questions suivantes clarifient des définitions déjà citées dans l'article, sans introduire de nouvelles obligations.
08
La première étape pratique
Cartographiez les systèmes d'IA utilisés, attribuez les rôles et responsabilités selon l'article 3, et planifiez la première session de littératie en matière d'IA pour ceux qui les utilisent, comme prévu par l'article 4.
FAQ
Questions fréquentes
Qui est le déployeur selon le règlement ?
C'est la personne physique ou morale, l'autorité publique ou l'organisme qui utilise un système d'IA sous sa propre autorité professionnelle, à l'exclusion de l'usage personnel non professionnel.
Que prévoit le cadre de responsabilité de la direction ?
Pour les fournisseurs de systèmes d'IA à haut risque, le cadre de responsabilité définit les responsabilités de la direction et du personnel concernant la gestion des données, le système de gestion des risques, la surveillance post-commercialisation, les incidents graves et la conservation des registres.
Que requiert la littératie en matière d'IA ?
Les fournisseurs et déployeurs doivent garantir, dans la mesure du possible, un niveau suffisant de littératie pour ceux qui exploitent les systèmes, en tenant compte des connaissances, de l'expérience, de l'éducation et du contexte.
✓