KI-Verordnung: Regelungen zu Kompetenzen und verbotenen KI-Systemen treten in Kraft

Am 2. Februar 2025 treten die ersten Regelungen der KI-Verordnung in Kraft.  Nach Art. 113 lit. a KI-VO treten Kapitel I und II der KI-VO in Kraft. Diese Regelungen betreffen den Anwendungsbereich der KI-Verordnung und enthalten Begriffsbestimmungen. Hinzu kommen Schulungspflichten zum Aufbau von KI-Kompetenzen und die Pflicht zur Abschaltung verbotener KI-Systeme. Für Arbeitgeber sind folgende Neuerungen relevant.

KI-Kompetenzen

Nach Art. 4 KI-VO müssen Arbeitgeber beim Einsatz von KI-Systemen im Betrieb als sog. Betreiber Maßnahmen ergreifen, um nach besten Kräften sicherzustellen, dass alle Beschäftigten, die mit der Nutzung von KI-Anwendungen befasst sind, über die notwendigen Kompetenzen verfügen. Dabei sind technische Vorkenntnisse, Erfahrungen, Qualifikation sowie der Kontext, in dem die KI-Systeme eingesetzt werden, zu berücksichtigen.

KI-Kompetenzen sind nach Art. 3 Nr. 56 KI-VO die Fähigkeiten, die Kenntnisse und das Verständnis, die es Beschäftigten ermöglicht, „KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu machen“.

Dabei ist zu beachten:

• Die Pflicht zum Ergreifen von Maßnahmen für die Kompetenzvermittlung gilt grundsätzlich für alle KI-Anwendungen, unabhängig von der Risikoklassifizierung.
• Die Vorschrift ist dabei wenig konkretisiert. Welche Maßnahmen erforderlich sind, hängt im Einzelfall von der eingesetzten KI und von den Beschäftigten ab.
• Mögliche Maßnahmen können sein: Schulungen, KI-Guidelines, praxisorientiertes Lernen in divers zusammengesetzten Teams, Weiterbildungs- und Zertifizierungsprogramme oder die Benennung von Anlaufstellen wie betriebsinterne KI-Beauftragte.
• Die Pflicht ist sehr weich formuliert, sie kann als Appell verstanden werden. Dafür spricht, dass Art. 4 KI-VO nicht sanktionsbewährt ist.
• Das Unterlassen von Maßnahmen nach Art. 4 KI-VO stellt aber eine Sorgfaltspflichtverletzung dar, die bei Eintritt eines Schadens eine Schadensersatzpflicht auslösen kann.

Verbotene KI-Systeme

Nach Art. 5 KI-VO sind KI-Systeme mit einem unannehmbar hohen Risiko grundsätzlich verboten. Gemeint sind damit KI-Systeme, von denen eine eindeutige Bedrohung ausgeht, weil sie z. B. manipulieren, täuschen oder Merkmale von Personen (Alter, Geschlecht, Herkunft etc.) kalkuliert ausnutzen. Die KI-VO katalogisiert diese verbotenen KI-Systeme, darunter z. B. solche, die ein sog. social scoring vornehmen oder Systeme zur biometrischen Identifizierung. Dazu gehören grundsätzlich auch alle KI-Systeme zur Emotionserkennung am Arbeitsplatz.

Dabei ist zu beachten:

• Ausgenommen sind KI-Systeme, die aus rein medizinischen oder sicherheitstechnischen Gründen
  Emotionen erkennen, wie z. B. für therapeutische Zwecke.
• Nicht gemeint sind nicht körperliche Zustände wie Schmerzen oder Müdigkeit.
• Das Verbot nach Art. 5 KI-VO ist grundsätzlich sanktionsbewährt nach Art. 99 KI-VO.

Weitere Informationen zu den für Arbeitgeber relevanten Regelungen der KI-Verordnung finden Sie in dem anliegenden BDA-Anwendungspapier „EU AI Act – Was steht drin?“, das auch auf der Webseite der BDA bereitsteht.