Hochrisiko-KI am Arbeitsplatz: Anhang III Nr. 4 b)

Recruiting-KI hat die Debatte um den EU AI Act im Personalbereich lange dominiert. Der wirtschaftlich größere Teil liegt aber hinter der Einstellung: Systeme, die Schichten zuweisen, Produktivität scoren, Zielerreichung berechnen, Kündigungslisten priorisieren oder Verhalten am Arbeitsplatz auswerten. Diese Systeme sind in Anhang III Nummer 4 Buchstabe b) der Verordnung (EU) 2024/1689 ausdrücklich als Hochrisiko eingestuft — und sie laufen in vielen Unternehmen bereits, oft eingebettet in Workforce-Management-, ERP- oder Callcenter-Suiten, ohne dass jemand sie als KI-System inventarisiert hat.

Mit dem Enforcement-Termin 02.12.2027 wird aus dieser Grauzone eine Nachweispflicht. Der Unterschied zu heute ist nicht, dass die Systeme verboten würden. Der Unterschied ist, dass ein Arbeitgeber belegen können muss, wie er sie betreibt.

Was Anhang III Nr. 4 b) tatsächlich erfasst

Der Wortlaut ist breiter, als die meisten Gap-Analysen annehmen. Erfasst sind KI-Systeme, die bestimmungsgemäß verwendet werden sollen für Entscheidungen über Beförderungen und die Beendigung von Vertragsverhältnissen, für die Zuweisung von Aufgaben auf Grundlage individuellen Verhaltens oder persönlicher Merkmale und Eigenschaften sowie für die Überwachung und Bewertung der Leistung und des Verhaltens von Personen in solchen Vertragsverhältnissen.

Drei Punkte werden in der Praxis regelmäßig übersehen.

Erstens ist der Anwendungsbereich nicht auf Arbeitnehmer im arbeitsrechtlichen Sinn beschränkt. Anhang III Nr. 4 spricht von Vertragsverhältnissen und erfasst damit ausdrücklich auch Plattform- und Selbstständigenkonstellationen — Erwägungsgrund 57 nennt Personen, die über Plattformen Dienstleistungen erbringen.

Zweitens greift die Ausnahme des Art. 6 Abs. 3 hier praktisch selten. Diese Vorschrift erlaubt, ein in Anhang III genanntes System als nicht hochriskant einzustufen, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte birgt, etwa weil es nur eine eng umgrenzte Verfahrensaufgabe erfüllt. Der letzte Unterabsatz von Art. 6 Abs. 3 stellt jedoch klar: Führt das System ein Profiling natürlicher Personen durch, bleibt es in jedem Fall Hochrisiko. Leistungs- und Verhaltensbewertung von Beschäftigten ist regelmäßig genau das.

Drittens entscheidet die Zweckbestimmung, nicht der Produktname. Ein Scheduling-Modul, das Schichten anhand individueller Verhaltensdaten zuweist, fällt unter 4 b) — auch wenn der Hersteller es als Planungswerkzeug vermarktet.

Die harte Grenze: Emotionserkennung ist verboten

Vor jeder Hochrisiko-Prüfung steht die Verbotsprüfung nach Art. 5. Für den Arbeitsplatz ist Art. 5 Abs. 1 Buchst. f) einschlägig: KI-Systeme zur Ableitung von Emotionen einer natürlichen Person am Arbeitsplatz und in Bildungseinrichtungen sind untersagt. Zulässig bleiben nur Systeme, die aus medizinischen Gründen oder aus Sicherheitsgründen eingesetzt werden — etwa Müdigkeitserkennung bei sicherheitskritischen Tätigkeiten.

Diese Grenze verläuft mitten durch das Angebot am Markt. Sentiment-Analyse in Kundengesprächen, die den Emotionszustand des Agents bewertet, Stimmanalyse in Bewerbungs- oder Feedbackgesprächen, Kamerasysteme, die Aufmerksamkeit oder Stress ableiten: Wo der Zweck die Ableitung von Emotionen einer beschäftigten Person ist, hilft keine Dokumentation. Diese Systeme müssen abgeschaltet werden. Verstöße gegen Art. 5 liegen im höchsten Sanktionsrahmen des Art. 99 Abs. 3 — deutlich oberhalb dessen, was für Pflichtverletzungen bei Hochrisikosystemen vorgesehen ist.

Was Arbeitgeber als Deployer schulden

Wer ein solches System einsetzt, ohne es unter eigenem Namen in Verkehr zu bringen, ist Betreiber (Deployer) im Sinne von Art. 3 Nr. 4. Die zentralen Pflichten stehen in Art. 26:

• Betrieb nach Betriebsanleitung (Abs. 1): Das System darf nur so verwendet werden, wie es der Anbieter nach Art. 13 dokumentiert hat. Jede Zweckerweiterung ist ein eigenständiges Risiko — bei einer wesentlichen Änderung der Zweckbestimmung kann der Betreiber nach Art. 25 Abs. 1 selbst zum Anbieter mit dem vollen Pflichtenkatalog werden.
• Menschliche Aufsicht (Abs. 2): Sie muss natürlichen Personen übertragen werden, die die erforderliche Kompetenz, Ausbildung und Befugnis besitzen. Formale Zuständigkeit ohne tatsächliche Eingriffsmöglichkeit erfüllt Art. 14 nicht.
• Eingabedaten-Verantwortung (Abs. 4): Soweit der Betreiber die Kontrolle über die Eingabedaten hat, muss er sicherstellen, dass sie im Hinblick auf die Zweckbestimmung relevant und hinreichend repräsentativ sind.
• Überwachung und Meldung (Abs. 5): Der Betrieb ist zu überwachen; bei Risiken ist der Anbieter zu informieren und die Nutzung erforderlichenfalls auszusetzen. Schwerwiegende Vorfälle sind nach Art. 73 zu melden.
• Protokollierung (Abs. 6): Automatisch erzeugte Logs sind aufzubewahren, soweit sie der Kontrolle des Betreibers unterliegen — mindestens sechs Monate, sofern nicht anderes Unionsrecht oder nationales Recht längere Fristen vorsieht.
• Information der Beschäftigten (Abs. 7): Vor Inbetriebnahme eines Hochrisiko-KI-Systems am Arbeitsplatz müssen Arbeitgeber die Arbeitnehmervertreter und die betroffenen Beschäftigten darüber informieren, dass sie dem System ausgesetzt sein werden.
• Transparenz gegenüber Betroffenen (Abs. 11): Werden mithilfe des Systems Entscheidungen über natürliche Personen getroffen oder unterstützt, sind diese Personen darüber zu unterrichten. Hinzu tritt das Recht auf Erläuterung der Einzelfallentscheidung nach Art. 86.

Eine Grundrechte-Folgenabschätzung nach Art. 27 ist für private Arbeitgeber im Fall von Anhang III Nr. 4 b) hingegen nicht generell vorgeschrieben — die Pflicht trifft primär öffentliche Stellen und private Akteure, die öffentliche Dienste erbringen, sowie bestimmte Anwendungen aus Anhang III Nr. 5. Öffentliche Arbeitgeber sollten das prüfen; für sie greift Art. 27 unmittelbar.

Deutschland: Mitbestimmung kommt vor dem Rollout

Die Informationspflicht aus Art. 26 Abs. 7 lässt nationales Arbeits- und Mitbestimmungsrecht ausdrücklich unberührt — Art. 2 Abs. 11 stellt klar, dass die Verordnung Mitgliedstaaten nicht daran hindert, für Arbeitnehmer günstigere Regelungen beizubehalten. In Deutschland bedeutet das: Ein System zur Leistungs- oder Verhaltensüberwachung ist eine technische Einrichtung im Sinne des § 87 Abs. 1 Nr. 6 BetrVG und damit mitbestimmungspflichtig. Seit dem Betriebsrätemodernisierungsgesetz gilt zudem § 80 Abs. 3 BetrVG: Beim Einsatz künstlicher Intelligenz gilt die Hinzuziehung eines Sachverständigen durch den Betriebsrat als erforderlich. Für Auswahlrichtlinien, die mithilfe von KI aufgestellt werden, greift § 95 Abs. 2a BetrVG.

Praktisch heißt das: Die AI-Act-Konformität und die Betriebsvereinbarung sind kein Nacheinander, sondern derselbe Vorgang. Für Unternehmen mit Standorten in EU27-Rest, UK und CH kommen abweichende Mitbestimmungs- und Datenschutzregime hinzu — der AI Act harmonisiert den Produktrahmen, nicht das Arbeitsrecht.

Was jetzt konkret zu tun ist

Der erste Schritt ist nicht die Dokumentation, sondern das Auffinden. Systeme aus Anhang III Nr. 4 b) sind selten als eigenständige KI-Produkte beschafft worden; sie stecken als Feature in bestehenden Plattformen. Ein Inventar, das nur nach Verträgen mit "KI" im Namen sucht, findet sie nicht. Sinnvoll ist eine Durchsicht entlang der Frage, wo im Beschäftigungsverhältnis automatisiert bewertet, zugewiesen oder priorisiert wird — unabhängig davon, wie das Modul heißt.

Der zweite Schritt ist die Verbotsprüfung nach Art. 5 Abs. 1 Buchst. f), bevor Ressourcen in Hochrisiko-Dokumentation fließen. Erst danach lohnt der Aufbau der Nachweiskette: Betriebsanleitung des Anbieters, benannte Aufsichtsrollen mit dokumentierter Kompetenz, Log-Aufbewahrung, Informationsnachweise gegenüber Beschäftigten und Arbeitnehmervertretung.

Eine vertiefte Übersicht der Hochrisiko-Kategorien nach Anhang III finden Sie auf hochrisiko-ki.com.

Entscheidend ist am Ende nicht, ob eine Richtlinie existiert, sondern ob sich der Einsatz eines Systems im Nachhinein belegen lässt: welches Modell, welche Version, welche Eingabedaten, wer hat aufgesehen, wer wurde informiert. Genau diese Nachweiskette ist der Kern von Evidence-based AI Trust — nachweisbar und audit-ready statt behauptet. Mehr zur AEGIRA Trust-Platform: aegira.ai.