Hochrisiko-KI in der Bildung: Annex III Nr. 3 EU AI Act

Bildungseinrichtungen setzen KI längst nicht mehr nur in der Verwaltung ein, sondern an den Stellen, die über Lebenswege entscheiden: bei der Auswahl von Bewerbern, der Bewertung von Lernleistungen und der Aufsicht über Prüfungen. Genau diese Anwendungsfälle hat der europäische Gesetzgeber als besonders sensibel eingeordnet. Annex III Nr. 3 der Verordnung (EU) 2024/1689 zählt KI in der allgemeinen und beruflichen Bildung ausdrücklich zu den Hochrisiko-Systemen — mit der vollen Pflichtenkette, die bis zum Forcing Event 02.12.2027 (Digital Omnibus) in eine prüfbare Form gebracht sein muss.

Warum Bildungs-KI als Hochrisiko gilt

Die Einstufung folgt einer klaren Logik: Wo eine algorithmische Entscheidung den Zugang zu Bildung, den Bildungsverlauf oder das Prüfungsergebnis einer Person beeinflusst, sind die Folgen für die Betroffenen tiefgreifend und oft irreversibel. Eine abgelehnte Hochschulzulassung, eine fehlerhaft bewertete Abschlussarbeit oder ein zu Unrecht als Täuschung markiertes Prüfungsverhalten können den weiteren Werdegang dauerhaft prägen.

Anders als bei vielen Konsumanwendungen fehlt den Betroffenen hier meist die Möglichkeit, einfach auf eine Alternative auszuweichen. Schülerinnen und Studierende sind dem eingesetzten System strukturell ausgeliefert. Diese Asymmetrie ist der Grund, warum der EU AI Act Bildungs-KI nicht dem allgemeinen Markt überlässt, sondern denselben strengen Rahmen anlegt wie etwa bei Hochrisiko-KI im Personalwesen oder im öffentlichen Sektor.

Die vier Fallgruppen nach Annex III Nr. 3

Der Anhang benennt vier Anwendungsbereiche, die als Hochrisiko gelten, wenn das System in einer Bildungs- oder Berufsbildungseinrichtung eingesetzt wird — auf allen Bildungsstufen.

Erstens KI zur Steuerung von Zugang und Zulassung sowie zur Zuweisung von Personen zu Einrichtungen. Darunter fallen Auswahl- und Ranking-Systeme, die Bewerbungen vorsortieren oder Aufnahmeentscheidungen vorbereiten.

Zweitens KI zur Bewertung von Lernergebnissen, einschließlich der Fälle, in denen diese Bewertung genutzt wird, um den Lernprozess einer Person zu steuern. Automatisierte Benotung von Klausuren, Essays oder Programmieraufgaben ist hier der zentrale Fall.

Drittens KI, die das angemessene Bildungsniveau beurteilt, das eine Person erhalten oder auf das sie zugreifen kann. Gemeint sind Systeme, die Personen Lernpfaden, Kursen oder Niveaustufen zuordnen.

Viertens KI zur Überwachung und Erkennung unerlaubten Verhaltens während Prüfungen — also die klassischen Proctoring-Systeme, die Prüfungsteilnehmer per Kamera, Bildschirm- oder Verhaltensanalyse beobachten.

Wer eines dieser Systeme entwickelt, einkauft oder betreibt, sollte den Einsatzzweck früh gegen diese vier Kategorien prüfen. Eine ausführliche Einordnung weiterer Annex-III-Fälle findet sich auf hochrisiko-ki.com.

Die rote Linie: verbotene Emotionserkennung

Bevor die Hochrisiko-Pflichten überhaupt greifen, zieht der EU AI Act in der Bildung eine absolute Grenze. Artikel 5 Abs. 1 Buchstabe f verbietet KI-Systeme, die Emotionen einer natürlichen Person am Arbeitsplatz und in Bildungseinrichtungen ableiten — mit eng gefassten Ausnahmen aus medizinischen oder Sicherheitsgründen.

Für Bildungseinrichtungen bedeutet das: Ein Proctoring- oder Lernanalyse-System, das beansprucht, aus Mimik, Stimme oder Verhalten den emotionalen Zustand von Prüflingen oder Lernenden zu erkennen, ist nicht etwa Hochrisiko, sondern schlicht verboten. Diese Praktiken unterliegen nicht der Konformitätsbewertung, sondern dem Untersagungsregime, das bereits vor dem zentralen Enforcement-Datum greift. Wer Systeme dieser Art einsetzt, sollte die Funktionspalette der Anbieter sehr genau prüfen — die Grenze zwischen erlaubter Verhaltensanalyse und verbotener Emotionsableitung verläuft hier funktional, nicht in der Marketingsprache.

Pflichtenkette und Rollenverteilung

Für die zulässigen Hochrisiko-Anwendungen gilt der volle Pflichtenkatalog der Verordnung: ein kontinuierliches Risikomanagement, Daten-Governance, technische Dokumentation, Protokollierung, Transparenz gegenüber den Betroffenen, menschliche Aufsicht sowie Genauigkeit und Robustheit. Diese Pflichten verteilen sich auf zwei Rollen.

Der Provider — typischerweise der Anbieter der Proctoring- oder Bewertungssoftware — trägt die Hauptlast: Er führt die Konformitätsbewertung durch, erstellt die technische Dokumentation und sorgt für die CE-Kennzeichnung. Die Bildungseinrichtung als Deployer ist nicht aus der Verantwortung entlassen. Sie muss das System zweckkonform und gemäß den Anbietervorgaben betreiben, die menschliche Aufsicht tatsächlich sicherstellen, die relevanten Personen informieren und die automatisch erzeugten Logs aufbewahren. Gerade die menschliche Aufsicht ist in der Praxis entscheidend: Eine automatisierte Plagiats- oder Täuschungsmarkierung darf nicht ohne qualifizierte menschliche Prüfung in eine belastende Entscheidung münden.

Für Einrichtungen mit Standorten in mehreren Rechtsräumen — DE, EU27-Rest, UK oder CH — ist zu beachten, dass die unionsrechtlichen Hochrisiko-Pflichten am Ort des Inverkehrbringens und Einsatzes innerhalb der EU ansetzen. Der Sitz des Software-Anbieters ändert daran nichts: Ein Anbieter mit US-Nexus wirkt hier als Provider auf der Vendor-Ebene, während die EU-Einrichtung die Deployer-Pflichten trägt.

Was Bildungseinrichtungen jetzt vorbereiten

Der erste Schritt ist eine ehrliche Inventur: Welche eingesetzten oder geplanten Systeme berühren Zulassung, Bewertung, Niveau-Zuordnung oder Prüfungsaufsicht? Im zweiten Schritt steht die Abgrenzung gegen die verbotenen Praktiken nach Art. 5 — denn ein verbotenes System lässt sich nicht durch Dokumentation heilen. Erst danach folgt die Pflichtenzuordnung zwischen Provider und Deployer und der Aufbau der Nachweise.

Dieser Nachweis ist der eigentliche Knackpunkt. Der EU AI Act verlangt nicht das Versprechen, dass ein System fair und korrekt arbeitet, sondern die belegbare, audit-fähige Evidenz dafür: dokumentierte Risikobewertungen, nachvollziehbare Logs, Belege der menschlichen Aufsicht. Eine Bildungseinrichtung, die diese Spur lückenlos führen kann, ist nicht nur formal compliant, sondern kann gegenüber Aufsicht, Eltern und Studierenden nachweisbar belegen, dass ihre KI vertrauenswürdig betrieben wird.

Trust entsteht hier nicht durch eine Garantie, sondern durch prüfbare Belege — und die müssen vor dem 02.12.2027 stehen, nicht erst danach aufgebaut werden. Mehr dazu, wie sich KI-Vertrauen evidenzbasiert und audit-ready nachweisen lässt: aegira.ai.