KI im Einzelhandel: Pflichten unterhalb von Hochrisiko

Der Einzelhandel ist einer der KI-intensivsten Sektoren überhaupt: Recommender-Systeme, dynamische Preisgestaltung, Absatzprognosen, Warenkorb-Personalisierung, Service-Chatbots, generierte Produktbilder und Kamerasysteme zur Diebstahlerkennung laufen in vielen Häusern längst produktiv. Wenn Handelsunternehmen die EU-KI-Verordnung (VO (EU) 2024/1689) prüfen, endet die Analyse häufig nach einem Blick in Anhang III mit dem beruhigenden Ergebnis: kein Hochrisiko. Das ist in vielen Fällen sogar richtig — und trotzdem der falsche Schluss. Denn der AI Act kennt Pflichten unterhalb der Hochrisiko-Schwelle, und einige davon treffen genau die Systeme, die im Handel am weitesten verbreitet sind.

Warum die meisten Handelssysteme nicht in Anhang III fallen

Anhang III listet die Hochrisiko-Anwendungsbereiche abschließend auf: Biometrie, kritische Infrastruktur, Bildung, Beschäftigung, Zugang zu wesentlichen privaten und öffentlichen Diensten, Strafverfolgung, Migration, Rechtspflege und demokratische Prozesse. Ein Produkt-Recommender oder eine Nachfrageprognose ist keiner dieser Bereiche zuzuordnen. Sortimentsoptimierung, Lagerdisposition und Marketing-Personalisierung sind aus Sicht der Verordnung wirtschaftliche Optimierung ohne unmittelbaren Grundrechtsbezug.

Zwei Ausnahmen sollten Handelsunternehmen dennoch ernst nehmen. Erstens: Anhang III Nr. 5 erfasst unter anderem die Bewertung der Kreditwürdigkeit natürlicher Personen. Wer eigene Finanzierungs-, Ratenkauf- oder Rechnungskauf-Angebote mit KI-gestützter Bonitäts- oder Betrugsbewertung unterlegt, verlässt damit den unkritischen Bereich — auch dann, wenn das Kerngeschäft Handel und nicht Kreditvergabe ist. Zweitens: Anhang III Nr. 1 erfasst biometrische Systeme. Kamerabasierte Analytik im Ladengeschäft ist selten harmlos zu klassifizieren; sobald sie Personen identifiziert oder kategorisiert, ist eine sorgfältige Prüfung zwingend, und Teile solcher Anwendungen berühren zusätzlich die Verbotstatbestände.

Wer im Zweifel ist, sollte die Klassifizierung dokumentieren statt sie nur zu behaupten. Auch die Ausnahmeregelung in Art. 6 Abs. 3, mit der ein an sich in Anhang III fallendes System als nicht hochriskant eingestuft werden kann, ist keine stillschweigende Option: Sie verlangt eine dokumentierte Bewertung, und nach Art. 6 Abs. 4 muss ein solches System vor Inverkehrbringen oder Inbetriebnahme registriert werden. Eine strukturierte Einordnung ist der Ausgangspunkt jeder weiteren Pflichtenanalyse — mehr zur Systematik der Risikostufen unter ki-risikostufe.de.

Art. 5: Die Grenze, die Personalisierung nicht überschreiten darf

Der für den Handel relevanteste Teil des AI Act ist nicht das Hochrisiko-Kapitel, sondern Art. 5. Er verbietet bestimmte Praktiken unabhängig davon, in welchem Sektor sie auftreten, und das Verbot gilt schon seit dem 2. Februar 2025.

Zwei Tatbestände liegen nah an der Alltagspraxis des Handels. Art. 5 Abs. 1 Buchst. a verbietet KI-Systeme, die subliminale, manipulative oder täuschende Techniken einsetzen, um das Verhalten von Personen wesentlich zu verzerren, sodass diese eine Entscheidung treffen, die sie sonst nicht getroffen hätten, und ihnen dadurch erheblicher Schaden entsteht. Art. 5 Abs. 1 Buchst. b verbietet die Ausnutzung von Vulnerabilitäten aufgrund von Alter, Behinderung oder einer besonderen sozialen oder wirtschaftlichen Lage mit derselben Folge.

Der entscheidende Punkt: Nicht jede Conversion-Optimierung ist damit verboten. Die Norm verlangt eine wesentliche Verhaltensverzerrung und erheblichen Schaden — normales Marketing, Rabattlogik und Empfehlungen bleiben zulässig. Riskant wird es dort, wo Optimierungsziele auf erkannte Schwäche zielen: Systeme, die Zahlungsschwierigkeiten oder finanzielle Notlagen erkennen und daraufhin gezielt Kreditangebote ausspielen, oder die bei erkennbar suchtnahem Nutzungsverhalten den Druck erhöhen. Solche Muster entstehen selten durch böse Absicht. Sie entstehen, weil ein Optimierungsziel gesetzt wurde und niemand geprüft hat, welche Verhaltensmuster das Modell dafür nutzt. Genau das macht Art. 5 zu einer Dokumentationsfrage: Ein Unternehmen muss zeigen können, was das System optimiert und welche Merkmale es dabei verwendet.

Auch Art. 5 Abs. 1 Buchst. c ist zu beachten. Das Verbot des Social Scoring adressiert ausdrücklich nicht nur Behörden, sondern auch private Akteure. Kundenbewertungen, die aus Verhalten in einem Kontext eine allgemeine Bewertung der Person ableiten und zu benachteiligender Behandlung in einem unzusammenhängenden Kontext führen, bewegen sich in diesem Bereich.

Art. 50: Transparenz gegenüber Kundinnen und Kunden

Die zweite Pflichtenschicht betrifft Systeme, die direkt mit Menschen interagieren oder Inhalte erzeugen. Art. 50 Abs. 1 verlangt, dass Personen darüber informiert werden, dass sie mit einem KI-System interagieren — es sei denn, das ist aus den Umständen und dem Kontext offensichtlich. Ein Service-Chatbot im Onlineshop fällt darunter, und die Pflicht trifft in erster Linie den Anbieter des Systems, während der Handel als Betreiber die Umsetzung im eigenen Frontend sicherstellen muss.

Art. 50 Abs. 2 verlangt von Anbietern generativer Systeme, dass synthetische Audio-, Bild-, Video- und Textinhalte in maschinenlesbarer Form als künstlich erzeugt oder manipuliert gekennzeichnet werden. Für Betreiber ist Art. 50 Abs. 4 relevant: Wer Deepfakes einsetzt, muss offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde. Handelsunternehmen, die Produktbilder, Model-Darstellungen, Werbevideos oder Produktbeschreibungen generativ erzeugen, sollten ihre Content-Pipeline daher nicht nur unter Marken-, sondern auch unter Kennzeichnungsaspekten prüfen. Die praktische Konsequenz ist überschaubar, aber sie muss technisch verankert sein — nachträglich lässt sich nicht rekonstruieren, welcher Asset-Bestand generativ entstanden ist, wenn die Herkunft nie mitgeschrieben wurde.

Hinzu kommt Art. 4: Anbieter und Betreiber müssen sicherstellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit KI-Systemen umgehen, über ein ausreichendes Maß an KI-Kompetenz verfügen. Diese Pflicht ist nicht auf Hochrisiko-Systeme begrenzt und betrifft im Handel eine große, verteilte Nutzergruppe: Category Management, Marketing, Kundenservice, Filialleitung.

Was der Handel jetzt konkret braucht

Für Handelsunternehmen ergibt sich daraus eine überschaubare, aber verbindliche Agenda bis zum Enforcement-Datum am 02.12.2027. Zuerst ein vollständiges Inventar der eingesetzten KI-Systeme, einschließlich der Funktionen, die als Feature in Shop-, CRM- oder Marketing-Suiten mitkommen und deshalb nie als KI-Projekt geführt wurden. Dann eine dokumentierte Klassifizierung je System, mit Begründung — insbesondere für Finanzierungs- und Kameraanwendungen. Danach eine Prüfung der Optimierungsziele gegen Art. 5, und zwar auf Basis der tatsächlich verwendeten Merkmale, nicht der Produktbeschreibung des Anbieters. Schließlich Kennzeichnung und Transparenz im Frontend sowie ein belastbarer Kompetenznachweis für die Anwendergruppen.

Das ist weniger Aufwand als eine Hochrisiko-Konformitätsbewertung, aber es ist mehr als eine Selbsteinschätzung im Protokoll. Der gemeinsame Nenner aller vier Punkte ist Nachweisbarkeit: Nicht die Einschätzung entscheidet im Prüfungsfall, sondern die Evidenz, die sie stützt. Wer diese Nachweise als Nebenprodukt des laufenden Betriebs erzeugt statt als Projekt vor dem Audit, hat den Aufwand dauerhaft im Griff — und kann den Reifegrad seines Managementsystems entlang AIMS (ISO 42001 × CMMI v3) sauber weiterentwickeln.

Wie sich Klassifizierung, Optimierungsziele und Kennzeichnung als prüfbare Evidenz statt als Dokumentenstapel führen lassen, zeigt der Ansatz einer Trust-Infrastructure: Mehr zur AEGIRA Trust-Platform unter aegira.ai.