Gouvernance de l'intelligence artificielle : quels rôles d'entreprise impliquer selon l'AI Act

01

La réponse en bref

L'AI Act distingue des rôles précis : le fournisseur qui développe ou met sur le marché un système d'IA, le déployeur qui l'utilise sous sa propre autorité, et l'éventuel représentant autorisé dans l'Union. S'ajoute à cela un cadre de responsabilité qui attribue des tâches à la direction et au reste du personnel, ainsi qu'une obligation de culture IA pour ceux qui utilisent les systèmes.

02

Pourquoi ces distinctions comptent

Le fournisseur est celui qui développe le système ou le fait développer et le met sur le marché sous son propre nom ; le déployeur est celui qui l'utilise sous sa propre autorité, sauf usage personnel non professionnel. Le représentant autorisé est une personne dans l'Union ayant reçu un mandat écrit du fournisseur pour exécuter des obligations en son nom. Savoir dans quel rôle se trouve l'entreprise détermine quelles obligations s'appliquent.

03

Comment attribuer les rôles étape par étape

Étapes

1. Vérifier si l'entreprise développe un système d'IA ou l'utilise sous sa propre autorité.
2. Définir un cadre de responsabilité qui attribue des tâches à la direction et au personnel.
3. Identifier qui gère les systèmes et procédures pour les données utilisées par le système d'IA.
4. Assurer un niveau suffisant de culture IA pour ceux qui utilisent les systèmes.
5. Mettre en place les canaux de communication avec les autorités compétentes en cas d'incident.

04

Un cas hypothétique

Exemple hypothétique : une PME utilise un système d'IA pour la sélection préliminaire des candidats. Dans ce cas, l'entreprise agit comme déployeur, puisqu'elle utilise le système sous sa propre autorité. La direction RH devrait recevoir une formation suffisante sur le fonctionnement du système, tandis que la direction définit qui répond des décisions prises avec son soutien.

05

Checklist de vérification

• Est-il clair si l'entreprise est fournisseur, déployeur ou les deux pour chaque système d'IA ?
• Existe-t-il un cadre de responsabilité qui nomme qui répond de chaque aspect ?
• Le personnel qui utilise les systèmes a-t-il un niveau suffisant de culture IA ?
• Les procédures de gestion des données et de conservation de la documentation sont-elles définies ?
• Est-il clair qui gère la communication avec les autorités compétentes en cas d'incident ?

06

Ce qu'une entreprise peut mettre en place avec le soutien d'un partenaire logiciel

Une entreprise peut demander à son partenaire logiciel de soutenir un inventaire des systèmes d'IA utilisés, indiquant qui est fournisseur ou déployeur pour chacun, qui fait partie du cadre de responsabilité et qui a reçu une formation suffisante. Ces éléments restent des choix opérationnels de l'entreprise, non des fonctionnalités garanties, mais une bonne traçabilité aide à maintenir la cohérence entre rôles attribués et activités effectivement menées.

07

Questions fréquentes sur les rôles

Le déployeur n'est pas automatiquement le fournisseur : cela dépend de qui développe et met sur le marché le système par rapport à qui l'utilise sous sa propre autorité.

Le cadre de responsabilité ne concerne pas seulement la direction : il définit aussi les tâches d'autres personnels impliqués dans la gestion du système d'IA.

La culture IA est requise dans la mesure du possible et tient compte des connaissances, de l'expérience et de la formation déjà présentes chez le personnel.

08

Prochaine étape

Avant d'adopter un nouveau système d'IA, cartographiez les rôles d'entreprise impliqués et attribuez un cadre de responsabilité clair : c'est la base de toute vérification ultérieure.