Art. 9 EU AI Act: Risikomanagement für Hochrisiko-KI

Wer eine Hochrisiko-KI auf den Markt bringt, beginnt die Pflichtenkette des EU AI Act nicht bei der Dokumentation und nicht bei der menschlichen Aufsicht, sondern beim Risikomanagement. Artikel 9 der Verordnung (EU) 2024/1689 steht bewusst am Anfang des Pflichtenkatalogs für Hochrisiko-Systeme — denn fast alle weiteren Anforderungen leiten sich aus den Risiken ab, die hier identifiziert und bewertet werden. Das Risikomanagementsystem ist damit kein begleitendes Dokument, sondern der Motor, der bestimmt, welche technischen und organisatorischen Maßnahmen ein System überhaupt braucht.

Risikomanagement als kontinuierlicher Prozess, nicht als Dokument

Der häufigste Irrtum bei Art. 9 ist die Vorstellung, ein Risikomanagementsystem sei eine einmalig erstellte Risikoanalyse, die man zur Konformitätsbewertung vorlegt und danach ablegt. Die Verordnung formuliert das Gegenteil. Das Risikomanagementsystem ist als kontinuierlicher, iterativer Prozess angelegt, der über den gesamten Lebenszyklus eines Hochrisiko-KI-Systems geplant und betrieben wird. Es erfordert regelmäßige, systematische Überprüfung und Aktualisierung.

Das hat eine unmittelbare praktische Konsequenz: Ein Hochrisiko-System, dessen Risikobewertung seit dem Markteintritt nicht mehr angefasst wurde, erfüllt Art. 9 nicht — selbst wenn die ursprüngliche Analyse fachlich gut war. Modelle driften, Einsatzkontexte verschieben sich, und Erkenntnisse aus dem laufenden Betrieb verändern das Risikobild. Genau deshalb verzahnt die Verordnung das Risikomanagement mit der nachgelagerten Marktbeobachtung nach Art. 72: Neue Daten aus dem realen Einsatz fließen zurück in die Bewertung. Risikomanagement im Sinne des EU AI Act ist eine laufende Disziplin, kein Projektmeilenstein.

Die vier Schritte nach Art. 9 Abs. 2

Die Verordnung beschreibt den Kern des Prozesses in vier aufeinander aufbauenden Schritten. Sie geben Organisationen eine belastbare Struktur, die sich unmittelbar in ein Vorgehensmodell übersetzen lässt.

Zuerst steht die Identifizierung und Analyse der bekannten und vernünftigerweise vorhersehbaren Risiken, die das System für Gesundheit, Sicherheit oder Grundrechte mit sich bringen kann, wenn es entsprechend seiner Zweckbestimmung verwendet wird. Der Bezug auf Grundrechte ist hier entscheidend: Anders als klassische Produktsicherheit beschränkt sich der EU AI Act nicht auf physische Gefahren, sondern nimmt etwa Diskriminierung, Eingriffe in die Privatsphäre oder unfaire Behandlung ausdrücklich in den Blick.

Im zweiten Schritt folgt die Abschätzung und Bewertung der Risiken, die auftreten können, wenn das System zweckgemäß genutzt wird — und ebenso unter Bedingungen vernünftigerweise vorhersehbarer Fehlanwendung. Dieser Punkt wird in der Praxis oft unterschätzt: Es genügt nicht, den idealen Anwendungsfall durchzudenken. Provider müssen vorausdenken, wie ihr System realistisch missverstanden, zweckentfremdet oder über seine Grenzen hinaus eingesetzt werden könnte.

Drittens verlangt Art. 9 die Bewertung weiterer Risiken auf Grundlage der Auswertung von Daten aus der nachgelagerten Marktbeobachtung. Hier schließt sich der Kreis zum kontinuierlichen Charakter des Prozesses.

Viertens schließlich die Ergreifung geeigneter und gezielter Risikomanagementmaßnahmen, um die identifizierten Risiken zu adressieren. Diese Maßnahmen sind kein freies Ermessen, sondern müssen auf die zuvor bewerteten Risiken zugeschnitten sein — und ihre Wirksamkeit muss überprüfbar bleiben.

Restrisiko, Tests und besonders schutzbedürftige Personen

Art. 9 erkennt an, dass sich kein nicht-triviales System vollständig risikofrei gestalten lässt. Maßgeblich ist daher das Konzept des vertretbaren Restrisikos. Die Verordnung legt eine klare Reihenfolge für die Risikobehandlung fest: Risiken sollen zunächst, soweit technisch möglich, durch geeignete Gestaltung und Entwicklung beseitigt oder reduziert werden. Wo das nicht ausreicht, kommen angemessene Minderungs- und Kontrollmaßnahmen hinzu. Erst danach folgt die Bereitstellung von Informationen und gegebenenfalls Schulung für die Deployer. Diese Hierarchie verhindert, dass Provider technische Mängel allein durch Warnhinweise im Handbuch abfedern.

Eng damit verbunden ist die Pflicht zum Testen. Hochrisiko-Systeme müssen getestet werden, um die am besten geeigneten und gezielten Risikomanagementmaßnahmen zu ermitteln. Die Tests erfolgen gegen vorab definierte Metriken und Schwellenwerte, die zur Zweckbestimmung des Systems passen. Ohne vorher festgelegte Kriterien lässt sich später nicht belegen, dass ein System die an es gestellten Anforderungen tatsächlich erfüllt — Testen ohne Maßstab ist im Audit wertlos.

Schließlich verlangt Art. 9 ausdrücklich, die Auswirkungen auf besonders schutzbedürftige Personengruppen zu berücksichtigen — namentlich, ob ein System wahrscheinlich von oder gegenüber Personen unter 18 Jahren oder anderen schutzbedürftigen Gruppen genutzt wird. Wer Hochrisiko-KI in solchen Kontexten einsetzt, trägt eine erhöhte Sorgfaltspflicht, die sich in der Risikobewertung niederschlagen muss. Eine vertiefte Übersicht zu den Hochrisiko-Kategorien und ihren Pflichten bietet hochrisiko-ki.com.

Vom Prozess zum belastbaren Nachweis

Bis hierher beschreibt Art. 9 einen Prozess. Im Audit zählt aber nicht der Prozess als Absicht, sondern als überprüfbare Realität. Genau an dieser Stelle wird Risikomanagement zur Trust-Frage. Eine Organisation kann ihr Risikomanagementsystem vollständig durchdacht haben — wenn sie nicht zeigen kann, wann welche Risiken bewertet, welche Maßnahmen daraus abgeleitet und welche Tests mit welchem Ergebnis durchgeführt wurden, bleibt der Nachweis lückenhaft.

Belastbar wird Art. 9 erst, wenn jeder Iterationsschritt Spuren hinterlässt: dokumentierte Risikobewertungen mit Datum und Verantwortlichkeit, nachvollziehbare Begründungen für die Einstufung von Restrisiken, Testprotokolle gegen die vorab definierten Metriken und ein erkennbarer Rückfluss aus der Marktbeobachtung. Diese Evidenz entsteht nicht rückwirkend. Sie muss im laufenden Betrieb anfallen — was den engen Zusammenhang zwischen Risikomanagement und einem gelebten AI Management System (AIMS nach ISO 42001 × CMMI v3) erklärt. Das Managementsystem liefert die Routinen, in denen die nach Art. 9 geforderte Evidenz überhaupt zuverlässig entsteht.

Bis zum Wirksamwerden der Durchsetzung am 02.12.2027 (Digital Omnibus) bleibt Organisationen Zeit, ihr Risikomanagement von einer einmaligen Analyse zu einem nachweisbaren Dauerbetrieb umzubauen. Wer früh damit beginnt, sammelt nicht nur Evidenz, sondern entwickelt die Reife, die ein Audit von einer formalen Hürde zu einer Bestätigung des Ist-Zustands macht.

Art. 9 ist deshalb mehr als die erste Pflicht im Hochrisiko-Katalog. Er ist der Punkt, an dem sich entscheidet, ob eine Organisation Vertrauen behaupten oder belegen kann. Genau dort setzt evidenzbasierter AI Trust an: nachweisbar, audit-ready — nicht als Versprechen, sondern als nachvollziehbare Praxis. Mehr zur AEGIRA Trust-Platform: aegira.ai.