KI in Fahrzeugen: Hochrisiko über Anhang I, nicht Anhang III

Wer im Automobil- oder Mobilitätssektor prüft, ob ein KI-System unter die KI-Verordnung fällt, schaut fast reflexartig in Anhang III. Dort steht die bekannte Liste: Biometrie, kritische Infrastruktur, Beschäftigung, Kreditwürdigkeit, Justiz. Fahrzeuge tauchen dort nicht auf — und genau daraus wird regelmäßig der falsche Schluss gezogen, KI im Fahrzeug sei kein Hochrisiko-Fall. Das Gegenteil ist der Fall. Der Pfad läuft nur über eine andere Tür: Artikel 6 Absatz 1 in Verbindung mit Anhang I.

Zwei Wege in dieselbe Risikoklasse

Die Verordnung (EU) 2024/1689 kennt zwei getrennte Mechanismen, über die ein System als hochriskant eingestuft wird.

Der eine ist Artikel 6 Absatz 2 mit Anhang III: eine abschließende Liste von Anwendungsbereichen, in denen KI unmittelbar Grundrechte berühren kann. Der andere ist Artikel 6 Absatz 1 — der produktsicherheitsrechtliche Pfad. Er greift, wenn zwei Bedingungen kumulativ erfüllt sind: Das KI-System wird als Sicherheitsbauteil eines Produkts verwendet oder ist selbst ein solches Produkt, das unter eine der in Anhang I gelisteten Harmonisierungsrechtsvorschriften fällt. Und: Dieses Produkt muss nach ebendiesen Vorschriften einer Konformitätsbewertung durch Dritte unterzogen werden.

Anhang I Abschnitt B listet genau die Rechtsakte auf, die den Mobilitätssektor tragen — unter anderem die Typgenehmigungsverordnung für Kraftfahrzeuge (EU) 2018/858, die Verordnung über die allgemeine Fahrzeugsicherheit (EU) 2019/2144, die Regelwerke für land- und forstwirtschaftliche Fahrzeuge sowie zwei- und dreirädrige Fahrzeuge, die Eisenbahn-Interoperabilitätsrichtlinie (EU) 2016/797, die Zivilluftfahrtverordnung (EU) 2018/1139 und die Richtlinie über Schiffsausrüstung.

Ein Spurhalteassistent, eine Notbremsfunktion mit Objekterkennung, eine Fahrerzustandsüberwachung, ein Perzeptionsstack für automatisiertes Fahren: Sobald solche Funktionen ML-basiert sind und sicherheitsrelevante Aufgaben im typgenehmigungspflichtigen Fahrzeug übernehmen, ist der Anhang-I-Pfad eröffnet. Nicht, weil jemand sie auf eine Liste gesetzt hat, sondern weil sie an einer bestehenden Produktzulassung hängen.

Die entscheidende Besonderheit: Artikel 2 Absatz 2

Hier liegt der Punkt, den viele Compliance-Analysen übersehen. Für Hochrisiko-KI-Systeme, die zu Produkten nach Anhang I Abschnitt B gehören, gilt die KI-Verordnung nicht in vollem Umfang. Artikel 2 Absatz 2 beschränkt die Anwendung auf einen ausdrücklich genannten Ausschnitt — im Wesentlichen Artikel 6 Absatz 1, die Schlussbestimmungen und die Änderungsartikel.

Der Grund ist regulatorische Hygiene, keine Nachsicht. Der Gesetzgeber wollte keine zweite, parallele Konformitätsarchitektur neben der Typgenehmigung errichten. Stattdessen ändern die Artikel 102 bis 109 der KI-Verordnung die sektoralen Rechtsakte selbst: Wenn die Kommission künftig delegierte Rechtsakte oder Durchführungsrechtsakte zu Fahrzeugen, Schienenfahrzeugen oder Luftfahrzeugen erlässt, sind die Anforderungen an Hochrisiko-KI aus Kapitel III Abschnitt 2 zu berücksichtigen.

Praktisch heißt das: Die materiellen Anforderungen — Risikomanagement, Datenqualität, technische Dokumentation, Protokollierung, menschliche Aufsicht, Genauigkeit und Robustheit — verschwinden nicht. Sie wandern in das sektorale Regime ein und werden dort über die vertrauten Kanäle durchgesetzt: Typgenehmigungsbehörden, technische Dienste, benannte Stellen. Wer im Automotive-Bereich auf eine gesonderte KI-Konformitätserklärung wartet, wartet auf das falsche Dokument.

Warum das die Nachweislage verschärft, nicht entspannt

Es liegt nahe, Artikel 2 Absatz 2 als Erleichterung zu lesen. Für die Praxis ist das riskant.

Erstens verschiebt sich die Prüfinstanz. Ein Anhang-III-System wird in aller Regel über eine interne Kontrolle bewertet — die Organisation prüft sich selbst gegen die Anforderungen. Ein typgenehmigungspflichtiges Fahrzeug durchläuft ein etabliertes Drittprüfverfahren mit Behördenbeteiligung, Prüfberichten und dokumentierter Rückverfolgbarkeit. Der Nachweisstandard, an dem eine ML-Funktion gemessen wird, ist damit strukturell höher, nicht niedriger.

Zweitens fällt der Zeitpuffer weg. Die Typgenehmigung ist kein Stichtagsereignis, sondern ein laufender Prozess mit Software-Updates, Varianten und Erweiterungen. Ein Anbieter, der ein Modell nachtrainiert, muss belegen können, welche Datenbasis, welche Validierungsergebnisse und welche Freigabeentscheidung hinter dem Stand stehen, der im Fahrzeug läuft. Rückblickend rekonstruieren lässt sich das selten.

Drittens trifft es die Lieferkette. Sicherheitsrelevante KI-Funktionen entstehen fast nie beim Fahrzeughersteller allein. Wahrnehmungsmodelle, Sensorfusion, Fahrerbeobachtung kommen von Tier-1- und Tier-2-Zulieferern, oft mit vortrainierten Basismodellen aus dritter Hand. Der Hersteller trägt die Genehmigungsverantwortung, hält aber nur einen Bruchteil der Evidenz. Ohne vertraglich gesicherte Nachweisketten — Datenherkunft, Trainings- und Validierungsprotokolle, Versionsstände, Änderungshistorie — bleibt eine Lücke, die im Prüfverfahren sichtbar wird. Wie die Einordnung im Detail funktioniert, ist auf hochrisiko-ki.com systematisch aufbereitet.

Was jetzt sinnvoll ist

Der erste Schritt ist eine saubere Zuordnung: Welche KI-Funktionen im Produktportfolio hängen an einem Anhang-I-Rechtsakt, und welche sind reine Anhang-III- oder Nicht-Hochrisiko-Fälle? Diese Trennung entscheidet über Verfahrensweg, Prüfinstanz und Dokumentenlage — und sie lässt sich nicht nachträglich korrigieren, wenn das Genehmigungsverfahren bereits läuft.

Der zweite Schritt betrifft die Evidenz. Für jede sicherheitsrelevante KI-Funktion sollte nachvollziehbar sein, auf welchen Daten sie beruht, wie sie validiert wurde, wer sie freigegeben hat und welcher Stand produktiv ist. Das ist keine Dokumentationsübung für den Prüftermin, sondern eine Frage der Systemarchitektur: Nachweise, die nicht im Betrieb entstehen, existieren im Zweifel nicht.

Der dritte Schritt ist der Blick auf den Zeitrahmen. Mit dem Digital Omnibus liegt der Enforcement-Zeitpunkt der KI-Verordnung auf dem 02.12.2027. Bei Produkten mit Typgenehmigungszyklen von mehreren Jahren ist das kein ferner Horizont, sondern betrifft Fahrzeugprojekte, die heute in der Entwicklung stehen.

Fahrzeug-KI ist nicht deshalb weniger reguliert, weil sie in Anhang III fehlt. Sie ist anders reguliert — über ein Regime, das Nachweise seit Jahrzehnten systematisch einfordert. Die Frage ist nicht, ob die Belege verlangt werden, sondern ob sie zum Zeitpunkt der Prüfung verfügbar sind.

Wer prüfen will, ob die eigene Nachweislage einem Drittprüfverfahren standhält, findet unter aegira.ai den Ansatz einer Trust-Infrastructure, die Evidenz im laufenden Betrieb erzeugt statt im Nachhinein.