Credit Scoring unter dem EU AI Act: Pflichten für Banken

KI-gestütztes Credit Scoring gehört zu den am eindeutigsten regulierten Anwendungen unter dem EU AI Act. Annex III, Nummer 5 Buchstabe b der Verordnung (EU) 2024/1689 stuft Systeme, die "die Kreditwürdigkeit natürlicher Personen bewerten oder deren Kredit-Score ermitteln", explizit als Hochrisiko-KI ein. Damit liegt die Messlatte hoch — und für Banken in DE, EU27-Rest, UK und CH gelten sehr unterschiedliche Wirkungsketten, obwohl der ökonomische Druck überall in dieselbe Richtung weist.

Mit dem Forcing Event 02.12.2027 (Digital Omnibus) endet die Schonfrist. Bis dahin muss jeder Bank-Deployer einer Scoring-Engine nachweisen können, dass die Hochrisiko-Pflichten umgesetzt sind. Dieser Beitrag ordnet die Pflichtenlage und zeigt, an welchen Stellen Aufsicht und Audit besonders genau hinsehen werden.

Warum Credit Scoring eindeutig Hochrisiko ist

Die Einstufung nach Annex III ist nicht verhandelbar und nicht von einer Risikoanalyse des Anbieters abhängig. Sobald ein System dazu bestimmt ist, Kreditwürdigkeit zu bewerten oder einen Score zu ermitteln, greifen die Pflichten aus Kapitel III Abschnitt 2 des AI Act vollständig. Eine Ausnahme nach Art. 6 Abs. 3 (etwa weil das System nur Hilfsfunktionen erfülle) ist im Scoring-Kontext praktisch nicht zu begründen — die Entscheidung über Kreditvergabe ist die geschützte Person-Auswirkung, die der Gesetzgeber adressiert.

Ausgenommen sind lediglich Systeme zur Aufdeckung von Finanzbetrug (Annex III Nr. 5 lit. b a. E.). Diese Abgrenzung ist wichtig: Fraud Detection ist nicht Scoring. Ein Modell, das Kontobewegungen auf Auffälligkeiten prüft, fällt nicht automatisch unter die Hochrisiko-Regeln — eines, das Bonität bewertet, schon.

Die Pflichten der Bank als Deployer

Banken nutzen Scoring-Modelle in der Regel als Deployer (Art. 3 Nr. 4): sie betreiben das System unter eigener Verantwortung, auch wenn die Modell-Entwicklung bei einem Provider liegt. Aus Art. 26 AI Act folgen sechs operative Kernpflichten, deren Umsetzung Audits anhand von Evidenz prüfen werden:

• Einsatz gemäß Anbieter-Anweisungen — die Gebrauchsanweisung des Providers ist verbindlich. Abweichungen müssen dokumentiert sein.
• Menschliche Aufsicht durch qualifiziertes Personal (Art. 26 Abs. 2). Diese Personen brauchen die "necessary competence" — bei Scoring-Modellen statistische Grundkenntnisse plus Kenntnis der konkreten Modell-Limits.
• Input-Daten-Repräsentativität sicherstellen, soweit der Deployer die Datenkontrolle hat (Art. 26 Abs. 4). Für Banken oft kritisch, da Trainings- und Inferenz-Daten häufig aus eigenen Beständen stammen.
• Logging der automatisch generierten Logs für mindestens sechs Monate (Art. 26 Abs. 6).
• Information der Beschäftigten und Konsultation der Arbeitnehmervertretung vor Inbetriebnahme am Arbeitsplatz (Art. 26 Abs. 7).
• Information betroffener Personen über den Einsatz eines Hochrisiko-Systems (Art. 26 Abs. 11).

Das ist die Basis-Pflichtschicht. Sie genügt aber nicht.

Die FRIA: pflichtgemäß für Bank-Scoring

Art. 27 AI Act verpflichtet bestimmte Deployer-Gruppen vor erstmaligem Einsatz eines Hochrisiko-Systems zu einer Fundamental Rights Impact Assessment (FRIA). Die Pflicht trifft nicht alle Banken automatisch — sondern jene, die als "öffentliche Einrichtungen" oder "private Betreiber öffentlicher Dienstleistungen" einzuordnen sind. Hinzu kommt: Art. 27 Abs. 1 lit. b nennt Annex III Nr. 5 lit. b und c explizit. Damit ist die FRIA für jeden privaten Betreiber eines Scoring-Systems pflichtgemäß, unabhängig vom Status als "öffentliche Einrichtung".

Die FRIA muss enthalten: Beschreibung der Einsatzprozesse, Zeitraum und Häufigkeit der Nutzung, betroffene Personengruppen, spezifische Risiken für Grundrechte, Aufsichtsmaßnahmen und Verfahren für den Umgang mit Risiken bei Eintritt. Das Ergebnis ist der nationalen Marktaufsicht zu melden.

In der Praxis heißt das: Wer 2027 ein Scoring-Modell ohne dokumentierte, nachvollziehbare FRIA betreibt, verstößt direkt gegen Art. 27. Die Bußgeldhöhe richtet sich nach Art. 99 Abs. 4 (bis zu 15 Mio. EUR oder 3 % des weltweiten Jahresumsatzes).

Unterschiede DE, EU27-Rest, UK und CH

Die EU-Verordnung gilt in Deutschland und im EU27-Rest direkt. In Deutschland kommt die aufsichtsrechtliche Klammer der BaFin hinzu: AI-gestütztes Scoring fällt unter die allgemeinen Anforderungen an die ordnungsgemäße Geschäftsorganisation nach § 25a KWG und unter die MaRisk (insbesondere AT 4.3 IDV und das Modellrisiko-Kapitel). Der AI Act ersetzt diese nicht, sondern legt sich darüber. Ergebnis: doppelte Evidenzpflicht — einmal für die BaFin, einmal für die Marktaufsicht nach AI Act.

Im Vereinigten Königreich gibt es keinen direkten AI Act. Stattdessen gilt der prinzipien-basierte Pro-Innovation-Ansatz der Regierung, ergänzt durch die FCA Consumer Duty (in Kraft seit Juli 2023) und Equality Act 2010 (Schutz vor diskriminierender Datenverarbeitung). Für britische Banken, die EU-Kunden bedienen, kommt der AI Act trotzdem über den Marktzugang zur Wirkung — Art. 2 Abs. 1 lit. c erfasst Anbieter und Deployer in Drittstaaten, deren Output in der EU verwendet wird.

In der Schweiz existiert kein dem AI Act entsprechendes Gesetz. Relevant sind das revDSG (insbesondere Art. 21 zu automatisierten Einzelentscheidungen) und das FINMA-Rundschreiben 23/1 zu operationellen Risiken, das KI-spezifische Modellrisiken adressiert. Schweizer Banken mit EU-Geschäft müssen den AI Act zusätzlich beachten. Mehr zum schweizerischen Aufsichtsrahmen siehe ki-regulierung.ch.

Was Banken jetzt vorbereiten sollten

Drei Felder sind aus Audit-Sicht entscheidend. Erstens: Modellinventar mit Klassifizierung. Jedes produktive Modell muss eindeutig als Hochrisiko-System gekennzeichnet sein, inklusive Verweis auf Annex-III-Nummer und Provider-Dokumentation. Zweitens: Evidenzpfad für Art. 26 Abs. 4 bis 7 — also Daten-Repräsentativitätsanalysen, Logs, Schulungsnachweise menschlicher Aufseher, Konsultationsnachweise mit der Arbeitnehmervertretung. Drittens: FRIA-Verfahren, das nicht einmalig, sondern bei wesentlichen Änderungen am Modell wiederholt wird.

Wer diese drei Felder nicht in den nächsten 18 Monaten in eine auditfähige Struktur bringt, wird am 02.12.2027 weder die BaFin- noch die AI-Act-Aufsicht zufriedenstellen können. Die Pflichten gelten dann ab dem ersten Tag.

Fazit

Credit Scoring ist eines der wenigen Felder, in denen der EU AI Act keine Interpretationsspielräume lässt: Annex III stuft es als Hochrisiko, Art. 26 definiert die Deployer-Pflichten, Art. 27 verlangt die FRIA, Art. 99 sanktioniert Verstöße. Für Banken in DE, EU27-Rest, UK und CH unterscheidet sich der nationale Aufsichtsüberbau, nicht aber die Wirkung des AI Act bei EU-Marktbezug. Die belastbare Antwort liegt im Aufbau einer evidenzbasierten Trust-Infrastructure, die Modell-Inventar, FRIA, Logs und menschliche Aufsicht in einer prüfbaren Form zusammenführt.

Mehr zur AEGIRA Trust-Platform: aegira.ai