01
Die Antwort in Kürze
Der AI Act unterscheidet präzise Rollen: den Anbieter, der ein KI-System entwickelt oder in Verkehr bringt, den Betreiber, der es unter eigener Verantwortung nutzt, und den eventuellen Bevollmächtigten in der Union. Hinzu kommt ein Verantwortungsrahmen, der Aufgaben an die Führung und übrige Mitarbeitende verteilt, sowie eine Pflicht zur KI-Kompetenz für diejenigen, die die Systeme bedienen.
02
Warum diese Unterscheidungen wichtig sind
Der Anbieter ist, wer das System entwickelt oder entwickeln lässt und unter eigenem Namen in Verkehr bringt; der Betreiber ist, wer es unter eigener Verantwortung nutzt, außer bei nicht-beruflicher persönlicher Nutzung. Der Bevollmächtigte ist eine Person in der Union, die vom Anbieter schriftlich beauftragt wurde, Pflichten in seinem Namen zu erfüllen. Zu wissen, welche Rolle das Unternehmen einnimmt, bestimmt, welche Pflichten gelten.
03
Wie man Rollen Schritt für Schritt zuweist
Schritte
- Prüfen, ob das Unternehmen ein KI-System entwickelt oder unter eigener Verantwortung nutzt.
- Einen Verantwortungsrahmen definieren, der Aufgaben an Führung und Mitarbeitende zuweist.
- Festlegen, wer die Systeme und Verfahren für die vom KI-System genutzten Daten verwaltet.
- Ein ausreichendes Niveau an KI-Kompetenz für die Bedienenden der Systeme sicherstellen.
- Kommunikationswege mit den zuständigen Behörden im Falle eines Vorfalls einrichten.
04
Ein hypothetischer Fall
Hypothetisches Beispiel: Ein KMU nutzt ein KI-System zur Vorauswahl von Bewerbenden. In diesem Fall handelt das Unternehmen als Betreiber, da es das System unter eigener Verantwortung nutzt. Die HR-Leitung sollte eine ausreichende Schulung zur Funktionsweise des Systems erhalten, während die Führung festlegt, wer für die mit dessen Unterstützung getroffenen Entscheidungen verantwortlich ist.
05
Prüf-Checkliste
- Ist klar, ob das Unternehmen für jedes KI-System Anbieter, Betreiber oder beides ist?
- Gibt es einen Verantwortungsrahmen, der benennt, wer für jeden Aspekt verantwortlich ist?
- Verfügt das Personal, das die Systeme bedient, über ein ausreichendes Niveau an KI-Kompetenz?
- Sind Verfahren für die Datenverwaltung und Dokumentenaufbewahrung festgelegt?
- Ist klar, wer die Kommunikation mit den zuständigen Behörden im Falle eines Vorfalls übernimmt?
06
Was ein Unternehmen mit Unterstützung eines Software-Partners einrichten kann
Ein Unternehmen kann seinen Software-Partner bitten, ein Verzeichnis der genutzten KI-Systeme zu unterstützen, mit Angabe, wer für jedes Anbieter oder Betreiber ist, wer zum Verantwortungsrahmen gehört und wer ausreichend geschult wurde. Diese Elemente bleiben operative Entscheidungen des Unternehmens, keine garantierten Funktionen, aber eine gute Nachverfolgbarkeit hilft, zugewiesene Rollen und tatsächlich ausgeübte Tätigkeiten in Einklang zu halten.
07
Häufige Fragen zu Rollen
Der Betreiber ist nicht automatisch der Anbieter: Es hängt davon ab, wer das System entwickelt und in Verkehr bringt, im Vergleich zu wer es unter eigener Verantwortung nutzt.
Der Verantwortungsrahmen betrifft nicht nur die Führung: Er definiert auch die Aufgaben anderer am Management des KI-Systems beteiligter Mitarbeitender.
KI-Kompetenz ist im möglichen Umfang erforderlich und berücksichtigt Kenntnisse, Erfahrung und Ausbildung, die im Personal bereits vorhanden sind.
08
Nächster Schritt
Bevor Sie ein neues KI-System einführen, kartieren Sie die beteiligten Unternehmensrollen und weisen Sie einen klaren Verantwortungsrahmen zu: Das ist die Grundlage für jede weitere Prüfung.
FAQ
Häufig gestellte Fragen
Was ist der Unterschied zwischen Anbieter und Betreiber laut AI Act?
Der Anbieter entwickelt oder lässt ein KI-System entwickeln und bringt es unter eigenem Namen in Verkehr; der Betreiber nutzt es unter eigener Verantwortung, außer bei nicht-beruflicher persönlicher Nutzung.
Wer sollte sich im Unternehmen um den Verantwortungsrahmen kümmern?
Der Verantwortungsrahmen definiert die Aufgaben der Führung und anderer Mitarbeitender bezüglich der Aspekte der Verwaltung des KI-Systems, einschließlich Datenverfahren und Kommunikation mit Behörden.
Betrifft KI-Kompetenz nur Techniker?
Nein: Sie betrifft das Personal und jeden, der sich im Auftrag des Unternehmens mit Betrieb und Nutzung von KI-Systemen befasst, unter Berücksichtigung von Kenntnissen, Erfahrung und Ausbildung jeder Person.
✓