Wie man die vom AI Act geforderte KI-Kompetenz plant

01

Was der AI Act zur KI-Kompetenz verlangt

Artikel 4 der Verordnung (EU) 2024/1689 verpflichtet Anbieter und Betreiber von KI-Systemen, Maßnahmen zu ergreifen, um im größtmöglichen Umfang ein ausreichendes Maß an KI-Kompetenz ihres Personals und aller anderen Personen zu gewährleisten, die sich mit dem Betrieb und der Nutzung von KI-Systemen im Auftrag befassen. Die Planung muss die technischen Kenntnisse, Erfahrung, Bildung und Ausbildung der Nutzenden, den Nutzungskontext und die Personen oder Gruppen, auf die die Systeme angewendet werden, berücksichtigen.

02

Wichtige Ausgangsdefinitionen

KI-Kompetenz ist definiert als die Fähigkeiten, Kenntnisse und das Verständnis, die es Anbietern, Betreibern und betroffenen Personen ermöglichen, eine informierte Verbreitung von KI-Systemen vorzunehmen und sich der Chancen, Risiken und möglichen Schäden bewusst zu werden. Der Anbieter ist derjenige, der ein KI-System entwickelt oder entwickeln lässt und in Verkehr bringt; der Betreiber ist derjenige, der es unter eigener beruflicher Verantwortung nutzt.

03

Wie man den Schulungsplan aufbaut

Schritte

1. Die im Einsatz befindlichen KI-Systeme kartieren und feststellen, wer sie im Auftrag des Unternehmens betreibt oder nutzt.
2. Technische Kenntnisse, Erfahrung, Bildung und Ausbildung der beteiligten Personen bewerten.
3. Den Nutzungskontext und die Personen oder Gruppen berücksichtigen, auf die die Systeme wirken.
4. Die Schulungswege mit dem Risikomanagementsystem für Hochrisikosysteme verknüpfen.
5. Die Schulung regelmäßig überprüfen und aktualisieren, gemäß dem iterativen Risikomanagementprozess.

04

Hypothetisches Beispiel: KI-gestützte Personalauswahl

Hypothetisches Beispiel: Ein Unternehmen, das ein KI-System zur Auswahl von Kandidaten einsetzt, handelt als Betreiber. Das Team, das das System konfiguriert, und die HR-Mitarbeiter, die die Ergebnisse interpretieren, haben unterschiedliche Schulungsbedürfnisse: Erstere müssen die technischen Einstellungen verstehen, Letztere den Nutzungskontext und die Auswirkungen auf die bewerteten Personen, wie es die Kompetenzkriterien der Verordnung vorsehen.

05

Mindestprüfungen vor dem Start der Schulung

• Liste der KI-Systeme und der jeweiligen Rollen, Anbieter oder Betreiber.
• Aufzeichnung der technischen Kenntnisse und Erfahrung der beteiligten Personen.
• Notiz zum Betriebskontext und den Zielgruppen des Systems.
• Verknüpfung zwischen Schulung und den Phasen des Risikomanagementsystems.
• Nachweis einer regelmäßigen Überprüfung des Schulungsplans.

06

Aufbau einer Dokumentationsspur mit einem Softwarepartner

Ohne verifizierte Produktfunktionen kann ein Unternehmen wählen, gemeinsam mit seinem Softwarepartner ein Register der KI-Systeme einzurichten, das Rolle, beteiligte Personen und erforderliches Wissensniveau angibt, um die von Artikel 4 verlangte Schulungsplanung nachvollziehbar zu machen. Es kann auch eine regelmäßige Überprüfung dieses Registers vorsehen, verknüpft mit den Identifikations- und Aktualisierungsphasen des Risikomanagementsystems für Hochrisikosysteme.

07

Klarstellungen zum Umfang der Verpflichtung

Die Definition der KI-Kompetenz umfasst sowohl technische Fähigkeiten als auch das Verständnis von Risiken und Chancen, nicht nur die operative Nutzung des Systems.

Die Kommission kann Verhaltenskodizes genehmigen oder, falls diese nicht angemessen sind, gemeinsame Regeln für die Umsetzung solcher Verpflichtungen wie der zur Kompetenz erlassen.

08

Der praktische nächste Schritt

Der praktische nächste Schritt besteht darin, ein Inventar der KI-Systeme mit Rollen, erforderlichen Fähigkeiten und Verbindung zum Risikomanagementsystem aufzubauen, das regelmäßig überprüft werden sollte.