Art. 13 EU AI Act: Betriebsanleitung für Betreiber

Ein Hochrisiko-KI-System ist für den Betreiber oft eine Blackbox: Er hat es nicht entwickelt, kennt die Trainingsdaten nicht und sieht nur die Ausgaben. Trotzdem trifft ihn ab dem Enforcement-Datum am 02.12.2027 ein eigener Pflichtenkatalog. Damit dieser Betreiber seine Aufgaben überhaupt erfüllen kann, muss der Anbieter ihn befähigen — und genau das regelt Artikel 13 der EU-KI-Verordnung (VO (EU) 2024/1689). Der Artikel ist die Informationsbrücke zwischen Provider und Deployer, und er entscheidet in der Praxis darüber, ob nachgelagerte Pflichten wie menschliche Aufsicht oder Betreiberpflichten belastbar erfüllbar sind.

Zwei Anforderungen: Transparenz und Anleitung

Art. 13 stellt zwei zusammenhängende Anforderungen. Erstens müssen Hochrisiko-KI-Systeme so konzipiert und entwickelt werden, dass ihr Betrieb hinreichend transparent ist — transparent genug, dass Betreiber die Ausgabe des Systems interpretieren und angemessen verwenden können (Art. 13 Abs. 1). Transparenz ist hier kein Selbstzweck und kein moralischer Appell, sondern ein funktionales Kriterium: Sie bemisst sich daran, ob der Betreiber mit dem System verantwortungsvoll arbeiten kann.

Zweitens müssen diese Systeme mit einer Betriebsanleitung versehen sein (Art. 13 Abs. 2). Diese Anleitung ist in einem geeigneten digitalen oder anderen Format bereitzustellen und muss prägnante, vollständige, korrekte und klare Informationen enthalten, die für die Betreiber relevant, zugänglich und verständlich sind. Damit richtet sich Art. 13 anders als die Transparenzpflichten des Art. 50 nicht an die betroffenen natürlichen Personen, sondern an den professionellen Betreiber, der das System einsetzt. Es geht um Betreiber-Transparenz, nicht um Endnutzer-Aufklärung.

Der Pflichtinhalt der Betriebsanleitung

Art. 13 Abs. 3 zählt konkret auf, was in die Betriebsanleitung gehört — und diese Liste ist der eigentliche Kern der Norm. Genannt werden zunächst Identität und Kontaktdaten des Anbieters sowie gegebenenfalls seines Bevollmächtigten.

Den größten Block bilden die Merkmale, Fähigkeiten und Leistungsgrenzen des Systems. Dazu gehören die Zweckbestimmung; der Grad an Genauigkeit — einschließlich der zugehörigen Metriken —, Robustheit und Cybersicherheit, an dem das System getestet und validiert wurde; sowie bekannte oder vorhersehbare Umstände, die zu Risiken für Gesundheit, Sicherheit oder Grundrechte führen können. Wo einschlägig, ist auch die Leistung des Systems im Hinblick auf bestimmte Personen oder Personengruppen zu beschreiben, an denen es eingesetzt werden soll, ebenso wie die Spezifikationen der Eingabedaten oder sonstige relevante Informationen über die verwendeten Trainings-, Validierungs- und Testdatensätze.

Hinzu kommen Angaben, die den laufenden Betrieb tragen: etwaige vom Anbieter vorbestimmte Änderungen des Systems und seiner Leistung; die menschlichen Aufsichtsmaßnahmen nach Art. 14, einschließlich der technischen Vorkehrungen, die dem Betreiber die Interpretation der Ausgaben erleichtern; die erforderlichen Rechen- und Hardwareressourcen, die erwartete Lebensdauer sowie notwendige Wartungs- und Pflegemaßnahmen; und — sofern relevant — eine Beschreibung der Mechanismen, mit denen der Betreiber die Protokolle (Logs) ordnungsgemäß erheben, speichern und interpretieren kann.

Diese Aufzählung ist keine Empfehlung, sondern verbindlicher Mindestinhalt. Eine Betriebsanleitung, die den Genauigkeitsgrad verschweigt oder die Grenzen der Leistung nicht benennt, erfüllt Art. 13 nicht.

Die Anleitung als Scharnier im Verantwortungsgefüge

Der eigentliche Hebel von Art. 13 liegt darin, dass die Norm nicht isoliert steht. Die Betriebsanleitung ist das Scharnier, an dem die Pflichten des Anbieters in die Pflichten des Betreibers übergehen. Der Betreiber muss das System nach Art. 26 gemäß der Betriebsanleitung verwenden — er kann seine eigenen Pflichten also nur erfüllen, wenn diese Anleitung vollständig und korrekt ist. Und die menschliche Aufsicht nach Art. 14 setzt voraus, dass die dafür nötigen Vorkehrungen und Hinweise in der Anleitung dokumentiert sind.

Fehlt eine dieser Informationen oder ist sie fehlerhaft, entsteht eine Lücke im Verantwortungsgefüge: Der Betreiber kann formal nicht compliant handeln, weil ihm die Grundlage dafür vorenthalten wurde. Deshalb ist Art. 13 aus Betreibersicht auch ein Prüfmaßstab beim Einkauf. Wer ein Hochrisiko-System beschafft, sollte die Betriebsanleitung nicht als Beipackzettel behandeln, sondern als Vertragsgegenstand — mit der Frage, ob sie den Katalog des Abs. 3 tatsächlich abdeckt. Die einzelnen Hochrisiko-Anwendungsfälle, für die das gilt, sind auf hochrisiko-ki.com nach Anhang III aufgeschlüsselt.

Von der Anleitung zum Nachweis

Für eine evidenzbasierte Sicht ist entscheidend, dass Art. 13 ein prüfbares Artefakt erzeugt. Die Betriebsanleitung ist nicht nur Bedienungshilfe, sondern dokumentierter Nachweis darüber, welche Leistungsgrenzen, Risiken und Aufsichtsmaßnahmen der Anbieter kommuniziert hat — und damit auch darüber, was der Betreiber wissen konnte und musste. Im Streitfall, bei einer Marktüberwachung oder in einem Audit ist sie eines der ersten Dokumente, das eine Behörde einsehen wird.

Aus diesem Grund lohnt es sich, die Betriebsanleitung nicht als statisches PDF zu begreifen, das einmal erstellt und dann abgelegt wird. Weil der Genauigkeitsgrad, die bekannten Risiken und die vorbestimmten Änderungen über den Lebenszyklus des Systems variieren, muss die Anleitung mit dem System versioniert und nachvollziehbar fortgeschrieben werden. Genau hier setzt der Gedanke einer Trust-Infrastructure an: nicht zu behaupten, man habe transparent informiert, sondern jederzeit belegen zu können, welche Fassung der Betriebsanleitung zu welchem Zeitpunkt gültig war und welche Angaben sie enthielt. Transparenz wird so von einer Momentaufnahme zu einer nachweisbaren, audit-fähigen Eigenschaft.

Für Betreiber wie Anbieter gilt damit dieselbe Konsequenz: Art. 13 ist erfüllt, wenn die Betriebsanleitung vollständig, korrekt und belegbar ist — und wenn dieser Zustand nicht nur einmal, sondern durchgängig nachgewiesen werden kann. Wer seine Hochrisiko-Systeme mit prüffesten, versionierten Betriebsanleitungen ausstattet, schafft die Grundlage, auf der menschliche Aufsicht und Betreiberpflichten überhaupt tragen. Mehr zur evidenzbasierten AI-Trust-Platform: aegira.ai.