Halluzinationen von KI-Shopping-Assistenten: Wer haftet für falsche Produktangaben?
Ein Assistent, der ein Material, einen Rabatt oder eine Retourenregel erfindet, schafft eine reale Haftung. Wie Halluzinationen im Mode-E-Commerce entstehen, was das Recht sagt und wie sich das Risiko senken lässt.
DAS WICHTIGSTE Zusammenfassung der Redaktion
- Eine Halluzination ist eine selbstsicher formulierte, aber falsche Antwort eines generativen KI-Systems, etwa eine erfundene Materialzusammensetzung, Grössenverfügbarkeit, ein erfundener Rabatt oder eine erfundene Retourenregel.
- Im Fall Moffatt v Air Canada (2024) befand ein Tribunal in British Columbia die Fluggesellschaft für falsche Informationen ihres Chatbots verantwortlich und wies das Argument zurück, der Chatbot sei eine eigenständige juristische Person.
- Die EU-Richtlinie über unlautere Geschäftspraktiken erfasst unwahre Informationen vor, während und nach einem Geschäft mit Verbrauchern; ihre Änderung durch die Richtlinie (EU) 2024/825 gilt ab dem 27. September 2026.
- Die revidierte EU-Produkthaftungsrichtlinie erfasst ausdrücklich Software einschliesslich KI-Systemen und gilt für Produkte, die ab dem 9. Dezember 2026 in Verkehr gebracht werden.
- Die wichtigsten praktischen Kontrollen sind: Antworten auf verifizierte Katalogdaten stützen, Arten von Aussagen einschränken, Konversationen protokollieren und klare Eskalationswege definieren.
Wenn ein KI-Shopping-Assistent etwas Falsches über ein Produkt sagt, sollte der Händler, der ihn einsetzt, davon ausgehen, dass er dafür verantwortlich ist, genau wie bei einer falschen Angabe auf einer Produktseite. Gerichte haben das Argument, ein Chatbot sei vom Unternehmen getrennt, bereits zurückgewiesen, und das EU-Verbraucherrecht behandelt unwahre Informationen als unlauter, unabhängig davon, wie sie entstanden sind. Die praktische Antwort lautet, den Assistenten auf verifizierte Daten zu stützen und einzuschränken, was er behaupten darf.
Was ist eine KI-Halluzination im Mode-E-Commerce?
Eine Halluzination ist eine selbstsicher formulierte Antwort, die nicht durch Fakten gestützt ist. Grosse Sprachmodelle erzeugen plausible Texte, und wenn relevante Daten fehlen oder mehrdeutig sind, füllen sie Lücken unter Umständen selbst. In der Mode sind typische Beispiele leicht vorstellbar und in der Praxis kostspielig.
| Art der Aussage | Beispiel einer falschen Antwort | Mögliche Folge | Kontrolle |
|---|---|---|---|
| Material und Zusammensetzung | Angabe von 100% Baumwolle bei einem Baumwollmischgewebe | Irreführende Aussage, Retouren, Allergiebeschwerden | Nur aus strukturierten Daten zur Zusammensetzung antworten |
| Nachhaltigkeit | Ein Produkt ohne Nachweis als «umweltfreundlich» bezeichnen | Greenwashing-Risiko nach Verbraucherrecht | Nur zertifizierte, dokumentierte Aussagen zulassen |
| Grösse und Bestand | Bestätigen, dass eine Grösse verfügbar ist, obwohl sie ausverkauft ist | Stornierte Bestellungen, Vertrauensverlust | Live-Bestandsabfrage pro Grösse |
| Preise und Aktionen | Einen abgelaufenen Rabatt nennen | Streitigkeiten, Druck, den Preis zu gewähren | Preise nur aus dem Checkout-System lesen |
| Richtlinien | Eine längere Retourenfrist erfinden | Kundenansprüche auf Basis der Chatbot-Aussage | Aktuellen Richtlinientext wörtlich abrufen |
| Pflege und Sicherheit | Falsche Waschanleitung | Beschädigte Produkte, Beschwerden | Pflegeetiketten aus den Produktdaten verwenden |
Haftet ein Händler für das, was sein KI-Assistent sagt?
Der bisher klarste Präzedenzfall stammt aus Kanada. Im Februar 2024 entschied das Civil Resolution Tribunal von British Columbia den Fall Moffatt v Air Canada. Der Chatbot der Fluggesellschaft hatte einem Kunden mitgeteilt, er könne innerhalb von 90 Tagen nach der Reise eine Ermässigung für Trauerfälle beantragen, was der tatsächlichen Richtlinie widersprach. Air Canada argumentierte, die korrekten Informationen seien an anderer Stelle auf der Website verfügbar gewesen und der Chatbot sei eine eigenständige juristische Person, die für ihr eigenes Handeln verantwortlich sei. Das Tribunal wies dies zurück, befand das Unternehmen für sämtliche Informationen auf seiner Website verantwortlich, ob von einer statischen Seite oder einem Chatbot, und sprach rund 650 kanadische Dollar zuzüglich Zinsen und Gebühren zu.
Die Beträge waren gering, doch die Begründung ist für den Handel wichtig: Ein Unternehmen kann sich nicht von seinem eigenen Assistenten distanzieren. Die Rechtslage unterscheidet sich von Land zu Land, und der Fall ist in Europa nicht bindend, doch das EU-Verbraucherrecht führt auf anderen Wegen zu einem ähnlichen praktischen Ergebnis.
Welche EU-Vorschriften gelten für falsche Produktangaben durch KI?
- Richtlinie über unlautere Geschäftspraktiken: das übergreifende EU-Gesetz zu unlauteren Geschäftspraktiken gegenüber Verbrauchern, das unwahre Informationen vor, während und nach einem Geschäft erfasst. Ihre Änderung durch die Richtlinie (EU) 2024/825 gilt ab dem 27. September 2026. Nicht belegte Umweltaussagen eines Assistenten verdienen besondere Sorgfalt.
- EU AI Act, Artikel 50: Ab dem 2. August 2026 müssen KI-Systeme, die für die Interaktion mit Menschen bestimmt sind, so gestaltet sein, dass die Nutzer wissen, dass sie es mit einer KI zu tun haben, sofern dies nicht offensichtlich ist. Die Offenlegung hebt die Verantwortung für die Richtigkeit nicht auf.
- Produkthaftungsrichtlinie (EU) 2024/2853: am 8. Dezember 2024 in Kraft getreten, gilt sie für Produkte, die ab dem 9. Dezember 2026 in Verkehr gebracht werden. Sie erfasst ausdrücklich Software einschliesslich KI-Systemen und kann Hersteller für Fehler haftbar machen, die durch Updates oder Funktionen des maschinellen Lernens entstehen. Sie betrifft fehlerhafte Produkte, die Schäden verursachen, und ist daher für Anbieter von KI-Software relevanter als für eine einfache falsche Antwort zu einem Stoff.
Wie können Modehändler das Halluzinationsrisiko senken?
- Jede Produktangabe absichern: Konfigurieren Sie den Assistenten so, dass er Produktfragen nur auf Basis abgerufener Katalogdaten beantwortet und sagt, dass er es nicht weiss, wenn Daten fehlen.
- Kategorien von Aussagen einschränken: Sperren Sie Aussagen zu Nachhaltigkeit, Gesundheit und Sicherheit oder geben Sie dafür enge Vorlagen vor, und lassen Sie nur Aussagen zu, die in den Produktdaten dokumentiert sind.
- Live-Systeme für Preise und Bestände nutzen: Lassen Sie das Modell Verfügbarkeiten oder Preise niemals aus Texten ableiten.
- Richtlinien zitieren, nicht umschreiben: Rufen Sie die aktuellen Retouren- und Liefertexte ab und verlinken Sie auf die Quellseite.
- Mit provokativen Fragen testen: Nehmen Sie Suggestivfragen wie «Das ist doch Bio, oder?» in die Tests vor dem Launch auf.
- Protokollieren und prüfen: Bewahren Sie Gesprächsprotokolle im Einklang mit den Datenschutzvorschriften auf und prüfen Sie wöchentlich Stichproben.
- Einen Korrekturprozess festlegen: Entscheiden Sie im Voraus, wie Sie mit Kundinnen und Kunden umgehen, die sich auf eine falsche Antwort verlassen haben, etwa indem Sie einen genannten Preis innerhalb bestimmter Grenzen gewähren.
Was gilt bei Fehlern externer Assistenten wie ChatGPT?
Wenn ein Assistent eines Drittanbieters Ihr Produkt falsch beschreibt, ist Ihre direkte Kontrolle begrenzt, doch dieselbe Datendisziplin hilft. Externe Plattformen stützen sich stark auf Händler-Feeds und strukturierte Daten; vollständige, korrekte Feeds lassen ihnen weniger Raum zum Raten. Beobachten Sie, wie die wichtigsten Assistenten Ihre meistverkauften Produkte beschreiben, korrigieren Sie die zugrunde liegenden Daten und nutzen Sie, wo vorhanden, die Feedback-Kanäle der Plattformen.
Wer im Unternehmen sollte für dieses Risiko verantwortlich sein?
Die Verantwortung ist meist geteilt: Der E-Commerce verantwortet den Assistenten, die Produktdatenteams die Fakten, die Rechtsabteilung legt die Regeln für Aussagen fest, und der Kundenservice übernimmt Eskalationen und Korrekturen. Benennen Sie eine hauptverantwortliche Person, vereinbaren Sie vor dem Launch eine Genauigkeitsschwelle und geben Sie dieser Person die Befugnis, den Assistenten einzuschränken oder abzuschalten, wenn die Fehler sprunghaft zunehmen.
Es hilft auch, die Kontrollen zu dokumentieren. Falls eine Behörde oder ein Gericht je eine falsche Aussage prüft, fällt der Nachweis ins Gewicht, dass das Unternehmen Antworten auf verifizierte Daten gestützt, sensible Aussagen eingeschränkt, vor dem Launch getestet und Fehler umgehend korrigiert hat. Eine kurze interne Richtlinie zu diesen Punkten, die bei jeder Änderung von Modell, Prompts oder Datenquellen überprüft wird, ist ein bescheidener Aufwand im Vergleich zum Reputationsschaden durch einen breit geteilten Screenshot eines Assistenten, der falsche Produktangaben macht. Überprüfen Sie die Richtlinie mindestens einmal jährlich und nach jedem erheblichen Vorfall, damit sie widerspiegelt, wie der Assistent tatsächlich genutzt wird.
Häufige Fragen
Kann ein Unternehmen für die Fehler seines Chatbots haftbar gemacht werden?
Ja, zumindest in einem viel beachteten Fall. Im Fall Moffatt v Air Canada (2024) befand ein Tribunal in British Columbia die Fluggesellschaft für falsche Informationen ihres Chatbots verantwortlich und wies die Behauptung zurück, der Chatbot sei eine eigenständige juristische Person. Der Ausgang hängt vom jeweiligen nationalen Recht ab.
Macht der EU AI Act Händler für KI-Halluzinationen haftbar?
Artikel 50 des AI Act verlangt vor allem Transparenz darüber, dass Nutzer mit einer KI interagieren, und gilt ab dem 2. August 2026. Die Haftung für irreführende Produktaussagen ergibt sich hauptsächlich aus dem Verbraucherrecht, etwa aus der Richtlinie über unlautere Geschäftspraktiken.
Wie verhindert man, dass ein KI-Shopping-Assistent Dinge erfindet?
Indem man Antworten auf abgerufene Katalogdaten stützt, für Preise und Bestände Live-Systeme nutzt, sensible Aussagen wie zur Nachhaltigkeit einschränkt und den Assistenten anweist zu sagen, dass er es nicht weiss, wenn Daten fehlen. Testen Sie mit provokativen Fragen und prüfen Sie regelmässig die Protokolle.
Erfasst die neue EU-Produkthaftungsrichtlinie auch KI?
Ja. Die Richtlinie (EU) 2024/2853 erfasst ausdrücklich Software einschliesslich KI-Systemen und gilt für Produkte, die ab dem 9. Dezember 2026 in Verkehr gebracht werden. Sie betrifft fehlerhafte Produkte, die Schäden verursachen, nicht jede falsche Antwort.
Eine Ausgabe an jedem Werktag. In fünf Minuten gelesen. Kostenlos für Branchenprofis.
