KI-Reallabore nach Art. 57 EU AI Act: Testen unter Aufsicht

Der EU AI Act wird meist als Pflichtenkatalog gelesen: Risikoklassen, Dokumentation, Konformitätsbewertung, Sanktionen. Ein Kapitel der Verordnung folgt einer anderen Logik. Die Artikel 57 bis 63 beschreiben keine zusätzlichen Pflichten, sondern einen geschützten Raum, in dem KI-Systeme unter behördlicher Aufsicht entwickelt und getestet werden dürfen, bevor sie auf den Markt kommen: das KI-Reallabor, im englischen Text "AI regulatory sandbox".

Für Organisationen, die ein Hochrisiko-System bauen und noch nicht wissen, ob ihre Auslegung der Anforderungen trägt, ist das der interessanteste Teil der Verordnung. Denn hier lässt sich die eigene Interpretation gegen die Auffassung der Aufsicht prüfen, bevor Fehler teuer werden.

Was Art. 57 den Mitgliedstaaten vorschreibt

Art. 57 Abs. 1 EU AI Act verpflichtet jeden Mitgliedstaat, über seine zuständigen Behörden mindestens ein KI-Reallabor auf nationaler Ebene einzurichten, das bis zum 2. August 2026 betriebsbereit sein soll. Die Verordnung lässt dabei Spielraum in der Umsetzung: Ein Reallabor kann gemeinsam mit den Behörden anderer Mitgliedstaaten betrieben werden, und die Pflicht gilt auch als erfüllt, wenn ein Staat sich an einem bestehenden Reallabor beteiligt, sofern dadurch eine gleichwertige nationale Abdeckung entsteht. Die Kommission kann technische Unterstützung, Beratung und Werkzeuge beisteuern.

Das erklärt, warum die nationale Landschaft heterogen aussieht. In den Rechtsräumen DE, EU27-Rest, UK und CH ist die Ausgangslage ohnehin unterschiedlich: Reallabore nach Art. 57 sind eine Verpflichtung des EU-Rechts und binden damit die EU-Mitgliedstaaten. Anbieter aus UK oder CH können relevant werden, sobald sie ihre Systeme auf dem EU-Markt anbieten — dann greift der Marktortbezug der Verordnung, unabhängig vom Sitz.

Wozu ein Reallabor dient

Ein KI-Reallabor ist eine kontrollierte Umgebung, in der Entwicklung, Training, Test und Validierung eines innovativen KI-Systems für einen begrenzten Zeitraum unter Aufsicht der zuständigen Behörde stattfinden — vor dem Inverkehrbringen oder der Inbetriebnahme. Die Behörde begleitet den Prozess, identifiziert gemeinsam mit dem Anbieter Risiken, insbesondere für Grundrechte, Gesundheit und Sicherheit, und gibt Hinweise zur Anwendung der Verordnung.

Zwei Punkte machen das für Anbieter attraktiv. Erstens: Wer sich an den Reallabor-Plan hält und den Empfehlungen der Behörde in gutem Glauben folgt, ist nach der Verordnung vor Geldbußen wegen Verstößen geschützt, die im Rahmen des Reallabors auftreten. Das ist kein Freibrief — die Haftung nach sonstigem Unions- und nationalem Recht bleibt nach Art. 57 unberührt, und die Aufsichts- und Korrekturbefugnisse der Behörden bestehen fort. Aber es senkt das Risiko, dass eine ehrliche Fehleinschätzung in der Entwicklungsphase später sanktioniert wird.

Zweitens: Art. 58 regelt die Ausgestaltung und den Ablauf und sieht vor, dass die Behörde die Aktivitäten dokumentiert und am Ende einen Abschlussbericht über Verlauf und Ergebnisse erstellt. Dieser Bericht kann in späteren Verfahren berücksichtigt werden — etwa in der Konformitätsbewertung oder gegenüber Marktüberwachungsbehörden. Damit wird aus einer Testphase ein verwertbarer Nachweis.

Reallabor, Real-World-Test und der Unterschied

Häufig verwechselt werden zwei Instrumente. Das Reallabor nach Art. 57/58 findet unter behördlicher Begleitung statt. Davon zu unterscheiden ist der Test unter Realbedingungen außerhalb von Reallaboren nach Art. 60: Anbieter und angehende Anbieter von Hochrisiko-KI nach Anhang III dürfen ihre Systeme auf Grundlage eines Plans für Tests unter Realbedingungen erproben — ohne dass die Verbote aus Art. 5 dadurch berührt würden. Art. 61 ergänzt dazu die Anforderungen an die informierte Einwilligung der Personen, die an solchen Tests teilnehmen.

Wer also mit einem Annex-III-System arbeitet, hat zwei Wege, Erfahrungen unter echten Bedingungen zu sammeln: begleitet im Reallabor oder eigenverantwortlich nach Art. 60 mit dokumentiertem Testplan und Einwilligungen. Welche Systeme überhaupt in diese Kategorie fallen, ist die Vorfrage — eine Übersicht der Anwendungsfälle findet sich auf hochrisiko-ki.com.

Vorrang für kleinere Anbieter

Art. 62 verpflichtet die Mitgliedstaaten, KMU einschließlich Start-ups mit Sitz oder Niederlassung in der Union vorrangigen Zugang zu den Reallaboren zu gewähren, soweit sie die Zulassungs- und Auswahlkriterien erfüllen. Dieselbe Vorschrift verlangt außerdem zielgruppengerechte Sensibilisierungs- und Schulungsmaßnahmen für KMU, Betreiber und, wo angebracht, lokale Behörden.

Das ist mehr als eine Geste. Für kleinere Anbieter ist die Konformitätsbewertung eines Hochrisiko-Systems ein erheblicher Aufwand; ein begleiteter Testzyklus mit Abschlussbericht kann die Unsicherheit deutlich reduzieren. Vorrang bedeutet allerdings keinen Anspruch auf einen Platz: Kapazitäten sind begrenzt, und die Auswahlkriterien der jeweiligen nationalen Behörde entscheiden.

Was das für die Zeitplanung bedeutet

Der Digital Omnibus hat die Durchsetzung der Hochrisiko-Anforderungen auf den 02.12.2027 verschoben. Für die Reallabor-Frage heißt das nicht "später anfangen", sondern das Gegenteil: Das Zeitfenster, in dem ein System unter Aufsicht getestet werden kann, bevor die Pflichten scharf greifen, ist jetzt und ist endlich. Reallabor-Plätze sind eine knappe Ressource, und ein begleiteter Zyklus braucht Vorlauf — Antrag, Auswahl, Testplan, Durchführung, Abschlussbericht.

Wer die Option ernsthaft prüfen will, braucht drei Dinge vorher: ein belastbares Inventar der eigenen KI-Systeme, eine begründete Risikoklassifizierung nach Art. 6, und eine dokumentierte Vorstellung davon, welche Anforderung genau unsicher ist. Ohne diese Vorarbeit ist ein Reallabor nicht nutzbar — die Behörde begleitet einen Entwicklungsprozess, sie ersetzt ihn nicht.

Reallabor als Evidenzquelle

Der eigentliche Wert eines Reallabors liegt weniger im Schutz vor Bußgeldern als in dem, was am Ende dokumentiert vorliegt: eine nachvollziehbare Kette aus Testplan, behördlicher Begleitung, festgestellten Risiken, ergriffenen Maßnahmen und Abschlussbericht. Genau diese Kette ist es, die eine spätere Prüfung trägt — und die sich Jahre danach nicht mehr rekonstruieren lässt, wenn sie nicht zum Zeitpunkt des Geschehens erfasst wurde.

Das ist der Kern von Evidence-based AI Trust: Vertrauen entsteht nicht aus der Teilnahme an einem Programm, sondern aus prüfbaren Artefakten mit belegbarer Herkunft. Ein Reallabor ist eine besonders gute Gelegenheit, solche Artefakte zu erzeugen — vorausgesetzt, die Organisation hat eine Struktur, in der sie erhalten bleiben.

Wer über die Teilnahme nachdenkt, sollte parallel klären, wie Testartefakte, Entscheidungen und Nachweise dauerhaft und nachvollziehbar abgelegt werden. Mehr zur AEGIRA Trust-Platform: aegira.ai.

Quellen: Verordnung (EU) 2024/1689 (EU AI Act), Art. 57, 58, 60, 61, 62.