Was ist eine KI-Halluzination in der Mode?

Kurz erklärt

Eine KI-Halluzination (Hallucination) liegt vor, wenn ein generatives Modell Inhalte erzeugt, die plausibel klingen, aber falsch oder unbelegt sind. In der Mode kann das erfundene Faseranteile, falsche Pflegehinweise oder unbegründete Nachhaltigkeitsaussagen bedeuten, die kommerzielle und rechtliche Risiken bergen.

Wie funktioniert es in der Praxis?

Sprachmodelle erzeugen die wahrscheinlichsten nächsten Wörter, keine geprüften Fakten. Wird ein Assistent nach der Zusammensetzung eines Styles gefragt und fehlen die Daten, liefert er womöglich eine überzeugende, aber erfundene Antwort, etwa eine bestimmte Mischung aus Baumwolle und Elasthan. Auch Bildmodelle können halluzinieren und Details wie zusätzliche Knöpfe oder ein Logo hinzufügen, die das echte Produkt nicht hat.

Typische Halluzinationsrisiken in der Mode sind:

• Angaben zu Faserzusammensetzung, Herkunft und Zertifizierungen.
• Pflegeetiketten und Sicherheitsinformationen.
• Liefertermine, Preise und Konditionen, die Einkäufern genannt werden.
• Nachhaltigkeitsaussagen und Daten für den Produktpass.
• Generierte Bilder, die das tatsächliche Kleidungsstück falsch darstellen.

Warum ist das wichtig?

Falsche Produktinformationen können zu Retouren, Reklamationen und beschädigtem Vertrauen bei Handelspartnern führen. Aussagen über Materialien, Herkunft oder Umweltwirkung sind zunehmend reguliert, sodass eine erfundene Aussage in einem Produkttext zum Compliance-Thema werden kann. Im B2B-Geschäft kann ein falscher Liefertermin oder Preis, den ein Assistent nennt, Bestellungen und Geschäftsbeziehungen stören.

Wie nutzt KI sie?

Halluzination ist ein bekanntes Verhalten generativer KI und kein gelegentlicher Fehler. Entwickler reduzieren sie, indem sie Antworten in geprüften Daten verankern (Grounding), RAG mit Quellenangaben einsetzen, Guardrails ergänzen, die unbelegte Aussagen blockieren, und bei sensiblen Inhalten einen Human in the Loop vorsehen.

Typische Fallstricke

• Fehlende Eingabedaten. Lücken in den Produktdaten verleiten das Modell dazu, sie mit Vermutungen zu füllen.
• Flüssigem Text vertrauen. Selbstbewusste, gut formulierte Ausgaben sind kein Beleg für Richtigkeit.
• Kein Prüfschritt bei regulierten Inhalten wie Pflegeetiketten und Aussagen.
• Das Modell nicht anweisen, offen zu sagen, wenn Informationen fehlen.

Häufige Fragen

Wie können Modemarken KI-Halluzinationen in Produkttexten verhindern?

Vollständige, geprüfte Produktdaten bereitstellen, das Modell anweisen, ausschliesslich diese Daten zu nutzen, die Ergebnisse mit der Quelle abgleichen und für Aussagen zu Materialien, Herkunft oder Nachhaltigkeit eine menschliche Freigabe verlangen.

Können auch KI-Bildtools halluzinieren?

Ja. Generierte oder bearbeitete Bilder können Details wie Besätze, Logos oder Proportionen hinzufügen oder verändern und müssen daher vor der Verwendung mit dem echten Produkt abgeglichen werden.

Alle Begriffe