Qu'est-ce qu'un deepfake dans la mode ?
Vidéo, image ou audio synthétique réaliste qui montre une personne disant ou faisant quelque chose qu'elle n'a pas dit ou fait.
En bref
Un deepfake (hypertrucage) est une vidéo, une image ou un enregistrement audio synthétique réaliste qui montre une personne disant ou faisant quelque chose qu'elle n'a pas dit ou fait. Pour les entreprises de mode, il crée des risques de fraude et d'atteinte à la réputation, et soulève des questions de consentement lorsque l'apparence de personnes réelles est utilisée dans des contenus d'IA.
Comment cela fonctionne-t-il en pratique ?
Les deepfakes sont créés avec des modèles d'IA générative qui apprennent le visage, la voix ou les mouvements d'une personne à partir de contenus existants, puis produisent de nouveaux contenus. Les mêmes techniques qui permettent aux marques de créer des mannequins IA ou de doubler des vidéos dans d'autres langues peuvent être détournées pour usurper l'identité de personnes réelles.
Risques liés à la mode :
- Une fausse vidéo d'un designer ou d'un dirigeant qui recommande un produit ou fait des déclarations.
- Des clones vocaux utilisés pour pousser le personnel à effectuer des paiements urgents ou à partager des données.
- De faux contenus d'ambassadeurs ou d'influenceurs faisant la promotion de contrefaçons.
- Des images manipulées de produits ou d'événements qui nuisent à une marque.
Pourquoi est-ce important ?
La mode repose largement sur des visages, des voix et des marques personnelles. Un deepfake convaincant peut se propager rapidement sur les réseaux sociaux avant d'être démenti. Dans les relations B2B, l'usurpation de l'identité de dirigeants ou de responsables de comptes peut conduire à des commandes frauduleuses ou au détournement de paiements. Les marques qui utilisent légitimement des personnes générées par l'IA doivent aussi éviter toute confusion avec des individus réels.
Comment l'IA l'utilise-t-elle ?
L'IA générative produit les deepfakes, mais l'IA sert aussi à les détecter en recherchant des incohérences visuelles ou sonores. Des outils de provenance comme les content credentials et le tatouage numérique aident à montrer quels médias sont authentiques. L'AI Act de l'UE fixe des obligations de transparence pour les deepfakes, en exigeant que ces contenus soient signalés comme générés ou manipulés artificiellement.
Pièges fréquents
Utiliser l'apparence d'une personne réelle pour des contenus générés par l'IA exige son consentement et des contrats clairs couvrant le périmètre, la durée et la rémunération. Les marques le négligent parfois avec les mannequins, les ambassadeurs ou les collaborateurs. D'autres lacunes sont l'absence de processus de vérification des demandes de paiement inhabituelles et l'absence de plan pour réagir vite face à de faux contenus. La formation du personnel, des règles de validation claires et la veille des mentions de la marque réduisent le risque.
Questions fréquentes
Est-il légal de créer un mannequin IA à partir d'une personne réelle ?
Cela requiert généralement le consentement de la personne et un contrat encadrant l'utilisation de son apparence. Les règles varient selon les pays, et des obligations de transparence peuvent s'appliquer au contenu obtenu.
Comment une entreprise de mode peut-elle se protéger contre la fraude par deepfake ?
Elle peut vérifier les demandes inhabituelles par un second canal, former le personnel à reconnaître les usurpations d'identité et utiliser des outils de provenance pour ses médias officiels. Un plan de réaction rapide aide à limiter les dégâts si de faux contenus apparaissent.
