Art. 26 EU AI Act: Betreiberpflichten für Hochrisiko-KI

Die öffentliche Diskussion über den EU AI Act dreht sich fast ausschließlich um die Anbieter — jene, die ein Hochrisiko-KI-System entwickeln und in Verkehr bringen. Übersehen wird dabei regelmäßig, dass die Verordnung eine zweite Adressatengruppe kennt, die für die meisten Unternehmen die praktisch relevantere ist: die Betreiber, im Verordnungstext als Deployer bezeichnet. Wer ein Hochrisiko-KI-System im eigenen Betrieb einsetzt — etwa ein zugekauftes Recruiting-Tool oder ein Scoring-Modell —, ist nicht bloß Kunde, sondern trägt einen eigenen Pflichtenkatalog. Er steht in Artikel 26 der Verordnung (EU) 2024/1689.

Wer als Betreiber gilt — und warum das die meisten trifft

Art. 3 Nr. 4 definiert den Betreiber als jede natürliche oder juristische Person, Behörde oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet — ausgenommen der rein private, nicht berufliche Gebrauch. Diese Definition ist bewusst weit gefasst. Sie erfasst nicht nur Technologiekonzerne, sondern jedes Unternehmen, jede Kommune und jede Behörde, die ein fertiges Hochrisiko-System einkauft und produktiv nutzt.

Genau darin liegt die Bedeutung von Art. 26: Während die Zahl der Anbieter überschaubar bleibt, ist der Kreis der Betreiber praktisch unbegrenzt. Die Vorstellung, mit dem Kauf einer zertifizierten Lösung sei die eigene Verantwortung abgegolten, hält der Verordnung nicht stand. Der Gesetzgeber verteilt die Pflichten entlang der Wertschöpfungskette — und der Betreiber ist derjenige, der das System tatsächlich auf Menschen anwendet.

Die Kernpflichten des Betreibers

Art. 26 formuliert einen abgestuften Katalog. Im Zentrum steht die Pflicht, das System gemäß der beigefügten Betriebsanleitung zu verwenden (Abs. 1). Betreiber müssen dafür angemessene technische und organisatorische Maßnahmen treffen. Der Anbieter definiert über die Instructions for Use den zulässigen Verwendungsrahmen; wer dieses vorgesehene Nutzungsprofil verlässt, kann selbst zum Anbieter im Rechtssinne werden und die volle Anbieterhaftung auslösen (Art. 25).

Zweitens verlangt Abs. 2 die menschliche Aufsicht: Der Betreiber überträgt sie natürlichen Personen, die über die nötige Kompetenz, Ausbildung und Befugnis verfügen — und über die erforderliche Unterstützung. Die vom Anbieter nach Art. 14 vorgesehenen Aufsichtsmaßnahmen laufen also erst dann wirksam, wenn der Betreiber sie mit qualifiziertem Personal unterlegt.

Drittens betrifft Abs. 4 die Eingabedaten: Soweit der Betreiber Kontrolle über die Input-Daten ausübt, muss er sicherstellen, dass diese der Zweckbestimmung des Systems entsprechen und ausreichend repräsentativ sind. Das ist die Betreiber-seitige Ergänzung zu den Datenqualitätspflichten, die Art. 10 dem Anbieter auferlegt. Ein technisch einwandfreies Modell liefert verzerrte Ergebnisse, wenn es mit unpassenden Betriebsdaten gefüttert wird — und diese Verantwortung lässt sich nicht an den Anbieter zurückreichen.

Viertens verpflichtet Abs. 5 zur Beobachtung des Betriebs. Stellt der Betreiber fest, dass die Nutzung gemäß Anleitung ein Risiko im Sinne von Art. 79 Abs. 1 begründen kann, informiert er unverzüglich Anbieter und zuständige Marktüberwachungsbehörde und setzt die Nutzung gegebenenfalls aus. Bei einem schwerwiegenden Vorfall besteht eine unmittelbare Meldepflicht. Der Betreiber ist damit ein aktiver Teil des Post-Market-Monitorings, nicht bloß passiver Nutzer.

Nachweis: Logs, Meldungen und die Beweislast

Besonders folgenreich für die Praxis ist Abs. 6: Betreiber müssen die vom System automatisch erzeugten Protokolle aufbewahren, soweit diese ihrer Kontrolle unterliegen — für einen der Zweckbestimmung angemessenen Zeitraum, mindestens jedoch sechs Monate, sofern das Unionsrecht oder nationales Recht nichts anderes vorsieht. Diese Logs sind das materielle Rückgrat jeder späteren Rechenschaft: Ohne sie lässt sich im Streitfall nicht belegen, unter welchen Bedingungen das System eine bestimmte Entscheidung getroffen hat.

Genau hier zeigt sich das Grundmuster des EU AI Act, das AEGIRA als Trust-Infrastructure begreift: Es genügt nicht, konform zu handeln — Konformität muss nachweisbar sein. Die Log-Pflicht des Betreibers verwandelt eine abstrakte Sorgfaltspflicht in eine überprüfbare Evidenzspur. Wer die Protokolle lückenhaft führt, erfüllt vielleicht die Substanz, scheitert aber am Nachweis. Und im Verhältnis zur Behörde trägt der Betreiber die Beweislast für seine eigene Sorgfalt.

Hinzu kommt die Kooperationspflicht: Nach Abs. 12 arbeiten Betreiber mit den zuständigen Behörden bei allen Maßnahmen zusammen, die diese im Hinblick auf das Hochrisiko-System ergreifen. Auch das lässt sich nur bedienen, wenn die relevanten Aufzeichnungen vorhanden und zugänglich sind. Wie ein solches Betreiber-Portfolio konkret aussieht, vertiefen wir am Beispiel einzelner Hochrisiko-Anwendungen.

Pflichten gegenüber Betroffenen und Beschäftigten

Art. 26 endet nicht bei der Technik. Abs. 7 verlangt, dass Betreiber am Arbeitsplatz die betroffenen Arbeitnehmer und ihre Vertretungen vor Inbetriebnahme darüber informieren, dass sie einem Hochrisiko-KI-System unterliegen werden. Damit verknüpft die Verordnung ihre Pflichten mit dem Arbeits- und Mitbestimmungsrecht.

Öffentliche Stellen als Betreiber müssen zudem die Nutzung in der EU-Datenbank nach Art. 71 registrieren (Abs. 8). Und soweit einschlägig, nutzt der Betreiber die vom Anbieter nach Art. 13 bereitgestellten Informationen, um seiner Pflicht zur Datenschutz-Folgenabschätzung nach Art. 35 DSGVO nachzukommen (Abs. 9). Für bestimmte Betreiber — insbesondere öffentliche Einrichtungen und bestimmte private Dienste — kommt über Art. 27 die Grundrechte-Folgenabschätzung hinzu. Die Betreiberpflichten stehen damit nicht isoliert, sondern verzahnen sich mit bestehendem Datenschutz- und Grundrechtsrecht.

Was Betreiber jetzt tun sollten

Der Pflichtenkatalog des Art. 26 wird mit dem Forcing Event 02.12.2027 (Digital Omnibus) zur belastbaren Realität. Bis dahin sollten Betreiber drei Dinge geklärt haben: erstens, für welche eingesetzten Systeme sie überhaupt Betreiber im Sinne der Verordnung sind — die Inventarisierung ist die Voraussetzung für alles Weitere. Zweitens, ob die menschliche Aufsicht personell und organisatorisch tatsächlich hinterlegt ist und nicht nur auf dem Papier steht. Und drittens, ob die Log-Aufbewahrung so eingerichtet ist, dass sich der eigene Sorgfaltsnachweis jederzeit rekonstruieren lässt.

Der rote Faden bleibt derselbe wie bei den Anbieterpflichten: Nicht die Behauptung der Regeltreue zählt, sondern ihre Belegbarkeit. Betreiber, die ihre Aufsicht, ihre Datenkontrolle und ihre Protokolle als zusammenhängende Evidenzstruktur aufsetzen, verwandeln eine Pflicht in nachweisbares Vertrauen — genau das, was ein audit-ready Betrieb ausmacht.

Mehr zur AEGIRA Trust-Platform: aegira.ai.