Hallucinations des assistants d'achat IA : qui est responsable des allégations produit erronées ?

Lorsqu'un assistant d'achat IA affirme quelque chose de faux sur un produit, le distributeur qui le déploie doit partir du principe qu'il en est responsable, exactement comme pour une affirmation erronée sur une fiche produit. Des tribunaux ont déjà rejeté l'argument selon lequel un chatbot serait distinct de l'entreprise, et le droit européen de la consommation considère les informations mensongères comme déloyales, quelle que soit la manière dont elles ont été produites. La réponse pratique consiste à ancrer l'assistant dans des données vérifiées et à restreindre ce qu'il peut affirmer.

Qu'est-ce qu'une hallucination d'IA dans l'e-commerce de mode ?

Une hallucination est une réponse assurée qui ne repose pas sur des faits. Les grands modèles de langage génèrent un texte plausible et, lorsque les données pertinentes sont absentes ou ambiguës, ils peuvent combler les lacunes. Dans la mode, les exemples typiques sont faciles à imaginer et coûteux en pratique.

Un distributeur est-il responsable de ce que dit son assistant IA ?

Le précédent le plus clair à ce jour vient du Canada. En février 2024, le Civil Resolution Tribunal de Colombie-Britannique a tranché l'affaire Moffatt v Air Canada. Le chatbot de la compagnie avait indiqué à un client qu'il pouvait demander une réduction tarifaire pour deuil dans les 90 jours suivant le voyage, ce qui contredisait la politique réelle. Air Canada a fait valoir que l'information correcte était disponible ailleurs sur son site et que le chatbot était une entité juridique distincte, responsable de ses propres actes. Le tribunal a rejeté cet argument, a jugé que l'entreprise était responsable de toutes les informations figurant sur son site, qu'elles proviennent d'une page statique ou d'un chatbot, et a accordé environ 650 dollars canadiens, plus les intérêts et les frais.

Les montants étaient faibles, mais le raisonnement compte pour le commerce de détail : une entreprise ne peut pas désavouer son propre assistant. Les législations diffèrent selon les pays et la décision n'est pas contraignante en Europe, mais le droit européen de la consommation aboutit en pratique à un résultat similaire par d'autres voies.

Lire aussi

Comment préparer ses flux produits mode pour le shopping dans ChatGPT, Gemini et Perplexity

Quelles règles européennes s'appliquent aux allégations produit erronées d'une IA ?

• Directive sur les pratiques commerciales déloyales : le texte européen de référence sur les pratiques commerciales déloyales envers les consommateurs, qui couvre les informations mensongères avant, pendant et après une transaction. Sa modification par la directive (UE) 2024/825 s'applique à partir du 27 septembre 2026. Les formulations environnementales non étayées d'un assistant méritent une attention particulière.
• AI Act de l'UE, article 50 : à partir du 2 août 2026, les systèmes d'IA destinés à interagir avec des personnes doivent être conçus de sorte que les utilisateurs sachent qu'ils ont affaire à une IA, sauf si c'est évident. Cette information ne supprime pas la responsabilité quant à l'exactitude.
• Directive (UE) 2024/2853 sur la responsabilité du fait des produits : entrée en vigueur le 8 décembre 2024, elle s'applique aux produits mis sur le marché à partir du 9 décembre 2026. Elle couvre explicitement les logiciels, y compris les systèmes d'IA, et peut rendre les fabricants responsables des défauts résultant de mises à jour ou de fonctions d'apprentissage automatique. Elle concerne les produits défectueux causant des dommages ; elle est donc plus pertinente pour les fournisseurs de logiciels d'IA que pour une simple réponse erronée sur un tissu.

Comment les distributeurs de mode peuvent-ils réduire le risque d'hallucination ?

1. Ancrer chaque information produit : configurez l'assistant pour qu'il ne réponde aux questions sur les produits qu'à partir des données catalogue récupérées, et qu'il dise ne pas savoir lorsque les données manquent.
2. Restreindre les catégories d'allégations : bloquez ou encadrez strictement par des modèles les affirmations relatives à la durabilité, à la santé et à la sécurité, en n'autorisant que les allégations documentées dans les données produit.
3. Utiliser les systèmes en temps réel pour le prix et le stock : ne laissez jamais le modèle déduire la disponibilité ou les prix à partir de textes.
4. Citer les conditions, ne pas les paraphraser : récupérez les textes en vigueur sur les retours et la livraison et renvoyez vers la page source.
5. Tester avec des questions pièges : incluez dans les tests avant lancement des questions orientées telles que « c'est bien bio, n'est-ce pas ? ».
6. Journaliser et contrôler : conservez les historiques de conversation conformément aux règles de protection des données et examinez des échantillons chaque semaine.
7. Définir un processus de correction : décidez à l'avance comment traiter les clients qui se sont fiés à une réponse erronée, par exemple en honorant dans certaines limites un prix annoncé.

Qu'en est-il des erreurs commises par des assistants externes comme ChatGPT ?

Lorsqu'un assistant tiers décrit mal votre produit, votre contrôle direct est limité, mais la même discipline en matière de données est utile. Les plateformes externes s'appuient fortement sur les flux marchands et les données structurées ; des flux complets et exacts leur laissent moins de place pour deviner. Surveillez la manière dont les principaux assistants décrivent vos meilleures ventes, corrigez les données sous-jacentes et utilisez les canaux de retour des plateformes lorsqu'ils existent.

Lire aussi

L'IA dans la mode : la revue de septembre 2026

Qui, dans l'entreprise, doit porter ce risque ?

La responsabilité est généralement partagée : l'e-commerce gère l'assistant, les équipes données produit sont garantes des informations, le juridique fixe les règles relatives aux allégations et le service client gère les escalades et les corrections. Désignez un responsable unique, convenez d'un seuil d'exactitude avant le lancement et donnez à cette personne le pouvoir de restreindre ou de désactiver l'assistant si les erreurs se multiplient.

Il est également utile de documenter les contrôles. Si un régulateur ou un tribunal examine un jour une affirmation erronée, la preuve que l'entreprise a ancré les réponses dans des données vérifiées, restreint les allégations sensibles, testé avant le lancement et corrigé rapidement les erreurs aura du poids. Une courte politique interne couvrant ces points, révisée à chaque changement de modèle, de prompts ou de sources de données, représente un effort modeste comparé au coût réputationnel d'une capture d'écran largement partagée montrant un assistant faire de fausses allégations produit. Révisez cette politique au moins une fois par an, ainsi qu'après tout incident important, afin qu'elle reflète l'usage réel de l'assistant.