L'IA nella moda è discriminatoria? Taglie, carnagioni ed equità spiegate

L'IA nella moda può essere discriminatoria, e il rischio è più alto dove nessuno lo verifica. Quando dati di addestramento e scelte progettuali si concentrano su taglie ristrette, carnagioni più chiare o determinate età, immagini generate dall'IA, virtual try-on, consigli sulla taglia e ricerca possono funzionare peggio per tutti gli altri. I bias non sono inevitabili, ma ridurli richiede una raccolta dei dati, test e revisione umana mirati.

Da dove nascono i bias nell'IA per la moda?

• Dati di addestramento: le immagini di moda hanno storicamente mostrato una gamma ristretta di corpi e carnagioni, e i modelli apprendono questi schemi.
• Dati di prodotto: se le taglie estese vengono fotografate meno spesso o descritte in modo meno completo, l'IA ha meno elementi da cui imparare.
• Dati dei clienti: i modelli di raccomandazione e di vestibilità apprendono da acquisti e resi passati, che riflettono che cosa è stato offerto e a chi.
• Scelte progettuali: la gamma di tipologie di corpo offerta in uno strumento di modelli virtuali o in un generatore di avatar fissa dei limiti fin dall'inizio.
• Valutazione: se un sistema viene testato soprattutto sui casi medi, gli errori per gli altri gruppi passano inosservati.

Che cosa mostra la ricerca sui bias nell'IA per le immagini?

Le evidenze più note provengono dall'analisi facciale. Lo studio Gender Shades di Joy Buolamwini e Timnit Gebru, pubblicato nel 2018, ha valutato i sistemi di classificazione del genere di IBM, Microsoft e Face++ su 1.270 immagini. Tutti e tre funzionavano meglio sui soggetti con carnagione più chiara che su quelli con carnagione più scura, e peggio di tutti sulle donne con carnagione più scura. Nel sistema di IBM, l'accuratezza era del 99,7% per gli uomini con carnagione più chiara e del 65,3% per le donne con carnagione più scura. La conclusione degli autori era che l'inclusione richiede intenzionalità.

L'IA generativa solleva questioni analoghe per la taglia. Un articolo del 2025 presentato nei Findings of NAACL, Decoding Fatphobia, ha esaminato i bias anti-grasso e pro-magrezza nelle immagini generate da DALL-E 3, utilizzando 4.000 immagini create a partire da prompt contrapposti e codificate manualmente per peso corporeo. Gli autori osservano che le immagini generate dall'IA tendono a rafforzare i pregiudizi sociali. Nella moda, dove modelli generati e immagini di campagna sono sempre più diffusi, questi schemi contano sul piano commerciale oltre che etico.

Leggi anche

AI Act UE: che cosa devono sapere le aziende della moda nel 2026?

Quali applicazioni dell'IA nella moda sono più esposte ai bias?

Perché il bias sulle taglie conta sul piano commerciale?

Il bias non è solo una questione etica. Quando un consiglio sulla taglia è meno accurato per alcuni clienti, questi hanno maggiori probabilità di ricevere articoli che non vestono bene, il che genera resi e vendite perse. Quando le immagini di prodotto generate dall'IA mostrano i capi su un'unica tipologia di corpo, i clienti di altre taglie dispongono di meno informazioni per valutare vestibilità e caduta. Quando i sistemi di ricerca o raccomandazione apprendono dalle vendite passate, le gamme che erano sottodimensionate nello stock o presentate male possono essere mostrate ancora meno, rafforzando il problema.

Questi effetti sono misurabili. Confrontare tassi di reso, conversione e reclami dei clienti tra gruppi di taglie e regioni può rivelare dove gli strumenti di IA funzionano in modo disomogeneo. Questa analisi dovrebbe far parte di ogni valutazione, accanto ai dati di accuratezza complessiva forniti dai fornitori.

L'IA può rendere la moda più inclusiva?

L'IA può essere utilizzata anche per mostrare più diversità. Nell'aprile 2023 Levi's ha annunciato che avrebbe testato modelli generati dall'IA con diverse tipologie di corpo, età e carnagioni insieme all'azienda olandese di moda digitale Lalaland.ai. Dopo le critiche secondo cui il progetto equivaleva a una diversità artificiale, Levi's ha precisato che il pilota era un esperimento e che l'IA probabilmente non avrebbe mai sostituito del tutto i modelli umani per l'azienda. La vicenda mostra che l'inclusione tramite l'IA può essere percepita come una scorciatoia se sostituisce la rappresentazione reale anziché sostenerla.

Gli strumenti di misurazione aiutano. Nel maggio 2022 Google ha rilasciato la Monk Skin Tone Scale, una scala a 10 tonalità sviluppata con il sociologo di Harvard Ellis Monk, rendendola liberamente disponibile per la ricerca e lo sviluppo di prodotti. Google la utilizza per valutare l'equità dei modelli di computer vision sulle diverse carnagioni. I team della moda possono utilizzare scale analoghe per strutturare set di test per immagini, try-on e ricerca visiva.

Che cosa dice la normativa UE sui bias dell'IA?

L'AI Act UE affronta i bias più direttamente per i sistemi ad alto rischio, come quelli utilizzati nella selezione del personale, e attraverso i requisiti di governance dei dati. Il Digital Omnibus sull'IA, Regolamento (UE) 2026/1744, ha aggiunto l'articolo 4a, che consente a fornitori e deployer di trattare categorie particolari di dati personali quando strettamente necessario per garantire il rilevamento e la correzione dei bias, con garanzie come la pseudonimizzazione, limiti al riutilizzo e controlli di accesso rigorosi. Ciò è rilevante perché testare i bias legati alla carnagione o ad altre caratteristiche sensibili può implicare proprio dati di questo tipo.

La maggior parte delle applicazioni dell'IA nella moda, come immagini e raccomandazioni, non è ad alto rischio ai sensi dell'AI Act. Ma le norme contro la discriminazione, a tutela dei consumatori e sulla protezione dei dati continuano ad applicarsi, e output discriminatori possono causare rapidamente danni reputazionali.

Leggi anche

Chi detiene un design di moda generato dall'IA? Diritto d'autore e proprietà intellettuale spiegati

Come possono i brand della moda ridurre i bias nell'IA?

1. Definire quali gruppi contano per ciascuna applicazione, come gamme di taglie, carnagioni, età e generi.
2. Costruire set di test rappresentativi e misurare le prestazioni per ciascun gruppo, non solo in media.
3. Chiedere ai fornitori come i loro modelli sono stati addestrati e testati rispetto ai bias e richiederne i risultati.
4. Coinvolgere revisori diversificati e, ove possibile, i clienti nella valutazione degli output.
5. Monitorare i risultati dopo il lancio, per esempio i resi per gruppo di taglie, e ripetere i test dopo ogni aggiornamento.
6. Utilizzare le immagini generate dall'IA per integrare, non per sostituire, la rappresentazione reale nelle campagne.