Was ist ein Deepfake in der Mode?
Realistisches synthetisches Video, Bild oder Audio, das eine Person zeigt, wie sie etwas sagt oder tut, was sie nicht gesagt oder getan hat.
Kurz erklärt
Ein Deepfake ist ein realistisches synthetisches Video, Bild oder Audio, das eine Person zeigt, wie sie etwas sagt oder tut, was sie nie gesagt oder getan hat. Für Modeunternehmen schafft das Risiken für Betrug und Reputationsschäden, und es wirft Fragen der Einwilligung auf, wenn das Erscheinungsbild realer Personen in KI-Inhalten verwendet wird.
Wie funktioniert es in der Praxis?
Deepfakes entstehen mit generativen KI-Modellen, die Gesicht, Stimme oder Bewegungen einer Person aus vorhandenem Material lernen und dann neue Inhalte erzeugen. Dieselben Verfahren, mit denen Marken KI-Models erstellen oder Videos in neue Sprachen synchronisieren, lassen sich missbrauchen, um sich als reale Personen auszugeben.
Risiken mit Bezug zur Mode sind unter anderem:
- Ein gefälschtes Video eines Designers oder einer Führungskraft, die ein Produkt bewirbt oder Aussagen macht.
- Stimmklone, mit denen Mitarbeitende zu dringenden Zahlungen oder zur Weitergabe von Daten verleitet werden.
- Gefälschte Inhalte von Markenbotschaftern oder Influencern, die Fälschungen bewerben.
- Manipulierte Bilder von Produkten oder Events, die einer Marke schaden.
Warum ist das wichtig?
Mode lebt stark von Gesichtern, Stimmen und persönlichen Marken. Ein überzeugender Deepfake kann sich in sozialen Medien schnell verbreiten, bevor er widerlegt wird. In B2B-Beziehungen kann das Imitieren von Führungskräften oder Key Account Managern zu betrügerischen Bestellungen oder umgeleiteten Zahlungen führen. Marken, die KI-generierte Personen legitim einsetzen, müssen zudem Verwechslungen mit realen Personen vermeiden.
Wie nutzt KI ihn?
Generative KI erzeugt Deepfakes, doch KI wird auch eingesetzt, um sie anhand visueller oder akustischer Unstimmigkeiten zu erkennen. Herkunftsnachweise wie Content Credentials und Wasserzeichen helfen zu zeigen, welche Medien authentisch sind. Der EU AI Act legt Transparenzpflichten für Deepfake-Inhalte fest und verlangt, dass solche Inhalte als künstlich erzeugt oder manipuliert offengelegt werden.
Typische Fallstricke
Die Nutzung des Erscheinungsbilds einer realen Person für KI-generierte Inhalte erfordert deren Einwilligung und klare Verträge zu Umfang, Dauer und Vergütung. Marken übersehen dies manchmal bei Models, Markenbotschaftern oder Mitarbeitenden. Weitere Lücken sind ein fehlender Verifizierungsprozess für ungewöhnliche Zahlungsanfragen und kein Plan für eine schnelle Reaktion auf gefälschte Inhalte. Schulungen der Mitarbeitenden, klare Freigaberegeln und das Monitoring von Markennennungen verringern das Risiko.
Häufige Fragen
Ist es legal, ein KI-Model auf Basis einer realen Person zu erstellen?
In der Regel braucht es dafür die Einwilligung der Person und einen Vertrag, der regelt, wie ihr Erscheinungsbild verwendet wird. Die Regeln unterscheiden sich je nach Land, und für die entstehenden Inhalte können Transparenzpflichten gelten.
Wie kann sich ein Modeunternehmen vor Deepfake-Betrug schützen?
Es kann ungewöhnliche Anfragen über einen zweiten Kanal verifizieren, Mitarbeitende darin schulen, Identitätsbetrug zu erkennen, und Herkunftsnachweise für offizielle Medien nutzen. Ein Plan für die schnelle Reaktion hilft, den Schaden zu begrenzen, falls gefälschte Inhalte auftauchen.
