Wie man KI-Kompetenz im Unternehmen plant

01

Was der AI Act zur KI-Kompetenz vorschreibt

Artikel 4 der Verordnung (EU) 2024/1689 verpflichtet Anbieter und Betreiber, Maßnahmen zu treffen, um nach Möglichkeit ein ausreichendes Niveau an KI-Kompetenz ihres Personals sowie aller anderen Personen, die KI-Systeme im Auftrag des Unternehmens bedienen und nutzen, zu gewährleisten, unter Berücksichtigung von technischem Wissen, Erfahrung, Bildung, Schulung, Nutzungskontext und den Personen, bei denen das System eingesetzt wird.

KI-Kompetenz wird definiert als die Fähigkeiten, Kenntnisse und das Verständnis, die es Anbietern, Betreibern und betroffenen Personen ermöglichen, KI-Systeme informiert einzusetzen und sich der Chancen, Risiken und möglichen Schäden bewusst zu sein.

02

Wer ist beteiligt und warum

Die Verordnung unterscheidet den Anbieter, der ein KI-System entwickelt oder in Verkehr bringt, vom Betreiber, der es unter eigener beruflicher Verantwortung nutzt. Beide Rollen haben Kompetenzverpflichtungen gegenüber ihrem eigenen Personal.

Für Hochrisiko-KI-Systeme sieht die Verordnung außerdem ein eigenständiges Risikomanagementsystem vor: einen iterativen Prozess, der den gesamten Lebenszyklus des Systems begleitet und eine ständige Überprüfung zur Ermittlung und Minderung von Risiken erfordert.

03

Wie man den Plan Schritt für Schritt erstellt

Schritte

1. Feststellen, ob das Unternehmen für jedes genutzte KI-System als Anbieter, Betreiber oder beides auftritt.
2. Die Personen erfassen, die die Systeme im Auftrag des Unternehmens bedienen oder nutzen, einschließlich technischer Kenntnisse und bisheriger Erfahrung.
3. Differenzierte Schulungsinhalte je nach Nutzungskontext und den vom System betroffenen Personen definieren.
4. Den Plan aktualisieren, wenn sich der Nutzungskontext, die eingesetzten Systeme oder die beteiligten Personen ändern, im Einklang mit den Kriterien von Artikel 4.
5. Den Plan und die Kriterien dokumentieren, die zur Anpassung an Rollen, Bildung und Schulung des beteiligten Personals verwendet wurden.

04

Hypothetisches Beispiel

Ein Unternehmen, das als Betreiber ein KI-System zur Kandidatenauswahl nutzt, könnte differenzierte Schulungssitzungen planen: eine für das HR-Team, das das System direkt bedient, mit technischer Vertiefung, und eine allgemeinere für Manager, die die Ausgaben erhalten, mit Fokus auf Chancen und Risiken.

05

Prüfungen vor Start des Plans

• Berücksichtigt der Plan die technischen Kenntnisse und die tatsächliche Erfahrung des beteiligten Personals?
• Wurden der Nutzungskontext und die vom System betroffenen Personen berücksichtigt?
• Wird der Plan aktualisiert, wenn sich der Nutzungskontext, die eingesetzten Systeme oder das beteiligte Personal ändern?
• Unterscheiden die Inhalte klar zwischen Chancen, Risiken und möglichen Schäden der genutzten KI?

06

Was ein Softwarepartner überwachen kann

Ein Unternehmen kann einen Softwarepartner bitten, die Nachverfolgbarkeit des Kompetenzplans zu unterstützen: ein Verzeichnis der beteiligten Rollen, Nachweise über zugewiesene Schulungsinhalte je Profil und eine Verlaufshistorie der Aktualisierungen im Zeitverlauf.

Dies sind vorgeschlagene operative Entscheidungen, keine erklärten Funktionen: Jedes Unternehmen sollte Rollen, Prüfberechtigungen und Aktualisierungszyklen entsprechend seiner internen Struktur und dem Nutzungskontext der KI-Systeme konfigurieren.

07

Häufig gestellte Fragen

Wer muss die KI-Kompetenz gewährleisten: nur der Anbieter oder auch der Nutzer des Systems? Beide, je nach ihren jeweiligen Rollen und Pflichten.

Muss die Schulung für das gesamte Personal identisch sein? Nein, sie sollte an technische Kenntnisse, Erfahrung, Bildung und Nutzungskontext jeder Gruppe angepasst werden.

08

Nächster Schritt

Beginnen Sie mit einer internen Erfassung der genutzten KI-Systeme, der beteiligten Rollen und der Wissensstände des Personals: Das ist der erste konkrete Schritt zur Erstellung eines mit Artikel 4 der Verordnung übereinstimmenden Kompetenzplans.