Che cos'è un sistema di IA ad alto rischio per le aziende di moda?
Ai sensi dell'AI Act dell'UE, un sistema di IA in un ambito sensibile, come la selezione del personale o il credito, che deve soddisfare requisiti rigorosi.
In breve
Ai sensi dell'AI Act dell'UE, un sistema di IA ad alto rischio (high-risk AI system) è un sistema usato in un ambito sensibile, come assunzioni, gestione dei lavoratori o accesso al credito, che deve soddisfare requisiti rigorosi. La maggior parte degli usi nella moda non è ad alto rischio, ma alcuni strumenti per risorse umane e finanza possono esserlo.
Come funziona nella pratica?
La classificazione dipende dal caso d'uso, non dalla tecnologia in sé. Lo stesso modello potrebbe essere a basso rischio quando tagga le immagini di prodotto e ad alto rischio quando stila una graduatoria dei candidati. Il regolamento elenca gli ambiti sensibili, e le aziende devono verificare se i propri strumenti vi rientrano.
I sistemi ad alto rischio devono soddisfare requisiti tra cui:
- Un processo documentato di gestione del rischio.
- Dati di addestramento di qualità, pertinenti e rappresentativi.
- Documentazione tecnica e conservazione delle registrazioni.
- Un'efficace sorveglianza umana.
- Adeguati livelli di accuratezza, robustezza e cybersicurezza.
La maggior parte di questi obblighi ricade sui fornitori, mentre i deployer devono usare i sistemi secondo le istruzioni, garantire la sorveglianza da parte di personale formato e monitorarne il funzionamento.
Perché è importante?
Le aziende di moda impiegano molte persone in negozi, magazzini e uffici, e gli strumenti di selezione o di gestione del personale utilizzano sempre più l'IA. Uno strumento di IA usato per preselezionare candidati a ruoli in negozio o in magazzino, o per valutare le prestazioni dei dipendenti, sarebbe probabilmente ad alto rischio. Sbagliare può comportare sanzioni, controversie legali e danni alla reputazione come datore di lavoro.
Come incide sull'IA?
Si tratta di una categoria normativa, non di una tecnica. Nella pratica incide sul modo in cui gli strumenti di IA vengono acquistati: i brand chiedono ai fornitori documentazione, informazioni sulla conformità e dettagli sui test per il bias, e progettano i processi in modo che le decisioni che riguardano le persone vengano esaminate da esseri umani.
Errori comuni
Le aziende si concentrano spesso sull'IA visibile rivolta ai clienti e non si accorgono di usi ad alto rischio nascosti nei software per risorse umane o finanza. Altre presumono che acquistare uno strumento trasferisca tutta la responsabilità al fornitore, il che non è vero. Un inventario chiaro degli usi dell'IA, il coinvolgimento tempestivo dei team HR e legali e un vero human in the loop per le decisioni che riguardano le persone sono le tutele più efficaci.
Domande frequenti
L'IA usata per la selezione del personale è ad alto rischio?
I sistemi di IA usati per assumere o selezionare candidati, ad esempio filtrando le candidature o valutando i candidati, sono elencati come ad alto rischio nell'AI Act dell'UE. Devono soddisfare requisiti rigorosi prima e durante l'uso.
La maggior parte degli strumenti di IA per la moda è ad alto rischio?
No. Gli usi tipici nella moda, come raccomandazioni di prodotto, previsione della domanda o tagging delle immagini, in genere non sono ad alto rischio. La categoria riguarda principalmente gli usi che incidono in modo significativo sui diritti o sulle opportunità delle persone.