La maîtrise de l'IA selon l'AI Act : comment former les équipes de mode et le documenter
L'article 4 s'applique depuis février 2025 et a été assoupli par l'AI Omnibus. Ce que les entreprises de mode doivent faire désormais, qui doit être formé et comment tenir un registre défendable.
L'ESSENTIEL Résumé de la rédaction
- L'article 4 de l'AI Act européen impose depuis le 2 février 2025 aux fournisseurs et aux déployeurs de systèmes d'IA de veiller à la maîtrise de l'IA au sein de leur personnel.
- L'AI Omnibus a modifié l'article 4 : les entreprises doivent désormais prendre des mesures favorisant le développement de la maîtrise de l'IA, plutôt que garantir un niveau précis pour chaque personne.
- La Commission européenne indique qu'aucun certificat n'est nécessaire et qu'un registre interne des formations et autres initiatives constitue une documentation suffisante.
- Les mesures de maîtrise de l'IA doivent couvrir une compréhension générale de l'IA, le rôle de l'entreprise en tant que développeur ou utilisateur, et les risques des systèmes précis que le personnel utilise.
- Le personnel chargé du contrôle de systèmes d'IA à haut risque doit toujours disposer des compétences, de la formation et de l'autorité nécessaires au titre de l'article 26.
Toute entreprise de mode qui utilise des systèmes d'IA dans l'UE est soumise depuis le 2 février 2025 à une obligation de maîtrise de l'IA. Depuis l'AI Omnibus, l'obligation consiste à prendre des mesures favorisant un niveau suffisant de maîtrise de l'IA parmi le personnel et les autres personnes utilisant l'IA pour le compte de l'entreprise, sans niveau imposé par personne. Concrètement, cela signifie un plan de formation par fonction, proportionné aux risques des outils utilisés, et un registre interne attestant qu'il a été mis en œuvre.
Que prévoit l'article 4 après l'AI Omnibus ?
Le texte initial demandait aux fournisseurs et aux déployeurs de garantir un niveau suffisant de maîtrise de l'IA. L'AI Omnibus, en vigueur depuis le 27 juillet 2026, a transformé cette exigence en une obligation de prendre des mesures favorisant le développement de la maîtrise de l'IA, selon White & Case. Le document de questions-réponses de la Commission sur la maîtrise de l'IA confirme qu'aucun niveau précis ou « suffisant » n'est désormais imposé, et que la Commission et les États membres accompagneront les entreprises avec des exemples pratiques.
L'obligation n'a pas disparu. Les mesures doivent tenir compte des connaissances techniques, de l'expérience, de l'éducation et de la formation du personnel ainsi que du contexte d'utilisation de l'IA. Les autorités nationales de surveillance du marché contrôlent le respect de cette obligation, et la Commission relève qu'une absence de formation appropriée pourrait rendre des mesures d'exécution plus probables après un incident.
Qui, dans une entreprise de mode, doit être formé à la maîtrise de l'IA ?
Selon la Commission, l'article 4 couvre le personnel et les autres personnes qui utilisent des systèmes d'IA pour le compte de l'entreprise, ce qui peut inclure des sous-traitants et des prestataires de services. Dans la mode, les groupes concernés diffèrent fortement dans leur usage de l'IA :
| Groupe | Usage typique de l'IA | Priorités de formation |
|---|---|---|
| Direction et conseil d'administration | Approbation des investissements et des politiques en matière d'IA | Catégories de risque, responsabilités, ce que l'entreprise s'interdit |
| Design et développement produit | Génération d'images, analyse des tendances | Questions de propriété intellectuelle et de données d'entraînement, étiquetage des contenus synthétiques |
| Marketing et e-commerce | Génération de textes et d'images, chatbots, personnalisation | Information au titre de l'article 50, test deepfake, contrôle de la marque et de l'exactitude |
| Merchandising et planification | Outils de prévision et d'allocation | Lecture critique des résultats des modèles, qualité des données, règles de dérogation |
| Équipes wholesale et commerciales | Propositions de commandes et communication avec les acheteurs assistées par l'IA | Vérification des recommandations, confidentialité des données des partenaires |
| RH et direction des magasins | Outils de présélection, de planification et de performance | Usages à haut risque, contrôle humain, interdiction de la reconnaissance des émotions |
| Service client | Chatbots et assistance aux conseillers | Transfert vers un humain, traitement des données personnelles, détection des erreurs |
Que doit couvrir la formation ?
La Commission propose un contenu minimal qui s'intègre aisément dans un programme destiné à la mode :
- Compréhension générale de l'IA : ce qu'est l'IA, comment elle fonctionne, quelle IA l'entreprise utilise, ses opportunités et ses risques.
- Le rôle de l'entreprise : développe-t-elle des systèmes d'IA ou utilise-t-elle des systèmes développés par d'autres, les obligations n'étant pas les mêmes.
- Les risques des systèmes utilisés : ce que le personnel doit savoir sur chaque outil, les défaillances typiques comme les réponses inventées ou les classements biaisés, et la manière de les atténuer.
- Aspects juridiques et éthiques : recommandés plutôt qu'obligatoires, et utiles lorsque les outils touchent aux données personnelles, au droit d'auteur ou à l'emploi.
Un format pratique consiste en un court module de base commun à toute l'entreprise, suivi de sessions par fonction liées aux outils que chaque équipe utilise réellement. La formation à un outil doit avoir lieu avant que le personnel n'y ait accès, et non après le déploiement.
Comment documenter la maîtrise de l'IA ?
L'obligation portant désormais sur des mesures, la documentation doit montrer que l'entreprise a évalué les besoins et agi en conséquence. Un dossier défendable contient généralement :
- Un inventaire de l'IA reliant chaque système aux équipes qui l'utilisent.
- Une évaluation des besoins de formation par fonction, en référence au risque de chaque outil.
- Les supports et dates de formation, avec les feuilles de présence conservées dans le système de gestion de la formation.
- Des mesures d'accompagnement comme des règles d'utilisation, des bibliothèques de prompts, des canaux d'aide internes et des procédures d'escalade.
- Un cycle de révision, par exemple lors de l'introduction d'un nouvel outil ou après un incident.
- Des dispositions pour les prestataires lorsque des agences ou des freelances utilisent l'IA pour le compte de l'entreprise.
À quelle fréquence faut-il actualiser les mesures de maîtrise de l'IA ?
Le règlement ne fixe aucun intervalle : le déclencheur doit donc être le changement plutôt que le calendrier. Les moments opportuns pour une mise à jour sont l'introduction d'un nouvel outil, une évolution importante d'un outil existant, le passage d'une équipe à un nouveau cas d'usage et tout incident ou quasi-incident. Les outils génératifs en particulier évoluent vite : des fonctionnalités qui n'existaient pas lors de la formation, comme des agents qui agissent pour le compte d'un utilisateur ou des outils d'image qui modifient de vraies photographies, peuvent nécessiter un court complément en l'espace de quelques mois.
Les prestataires et les agences méritent un traitement explicite. Le document de questions-réponses de la Commission précise que les prestataires agissant pour le compte de l'entreprise peuvent entrer dans le champ de l'article 4, selon le type de système et le risque. Un studio de création qui génère des visuels, une agence de contenu qui rédige des textes produit ou un service client externalisé qui utilise l'IA pour le compte de la marque devrait soit recevoir les consignes pertinentes, soit confirmer dans le contrat que son personnel dispose des compétences en IA appropriées pour la mission. Une courte clause et une copie des règles d'utilisation de l'entreprise suffisent généralement pour les travaux à faible risque.
Quelles exigences supplémentaires s'appliquent à l'IA à haut risque ?
L'assouplissement de l'article 4 ne s'étend pas aux règles relatives au haut risque. La Commission relève que l'obligation de former le personnel au contrôle humain demeure pour les déployeurs de systèmes à haut risque. L'article 26 impose aux déployeurs de confier ce contrôle à des personnes disposant des compétences, de la formation et de l'autorité nécessaires. Dans la mode, cela concerne principalement les systèmes RH utilisés pour le recrutement, l'attribution des tâches ou la surveillance des salariés, dont les obligations haut risque s'appliquent à partir du 2 décembre 2027.
Quelles sont les limites de la formation ?
La formation seule ne rend pas un outil d'IA sûr. Le personnel ne peut repérer les erreurs que s'il a le temps et l'autorité de vérifier les résultats, et si le processus lui permet de passer outre une recommandation. Les programmes de maîtrise de l'IA fonctionnent le mieux lorsqu'ils s'accompagnent de règles d'utilisation claires, de paramètres par défaut judicieux dans les outils eux-mêmes et d'une direction qui accepte une adoption plus lente là où une vérification est nécessaire. L'objectif est un usage compétent, pas un taux de complétion.
Questions fréquentes
La formation à la maîtrise de l'IA est-elle obligatoire au titre de l'AI Act ?
Les entreprises qui fournissent ou déploient des systèmes d'IA doivent prendre des mesures favorisant la maîtrise de l'IA parmi leur personnel et les autres personnes utilisant l'IA pour leur compte. Depuis l'AI Omnibus, aucun niveau précis n'est imposé, mais l'obligation s'applique depuis le 2 février 2025.
Les salariés ont-ils besoin d'un certificat AI Act ?
Non. La Commission européenne indique qu'aucun certificat n'est requis. Un registre interne des formations et autres initiatives suffit.
Qui contrôle le respect de l'obligation de maîtrise de l'IA ?
Les autorités nationales de surveillance du marché, et non le Bureau de l'IA de l'UE. Les sanctions sont fixées par le droit national et doivent être proportionnées.
Que doit comprendre une formation à la maîtrise de l'IA ?
La Commission propose une compréhension générale de l'IA, le rôle de l'entreprise en tant que développeur ou utilisateur, et les risques des systèmes précis que le personnel utilise, le tout adapté à ses connaissances et à son contexte.
Une édition chaque jour ouvrable. Lue en cinq minutes. Gratuite pour les professionnels.
