Risposta agli incidenti IA: che cosa fare quando un modello sbaglia in pubblico

Quando un modello di IA sbaglia in pubblico, la prima ora è quella che conta di più: contenere il problema, conservare le prove, decidere chi parla e verificare se è partito un termine legale. I passi seguenti si adattano a un brand o retailer di moda il cui chatbot, motore di raccomandazione, strumento di pricing o contenuto generato ha prodotto un output dannoso, falso o imbarazzante su un canale pubblico.

Perché le aziende di moda hanno bisogno di un piano per gli incidenti IA?

Gli output dell'IA sono rivolti ai clienti in più punti di prima: assistenti per le taglie, chatbot di assistenza, testi di prodotto, immagini di campagna e offerte personalizzate. Quando uno di essi va fuori strada, la responsabilità ricade in genere sull'azienda che lo ha messo davanti al cliente, non sulla tecnologia.

Un esempio molto citato è Moffatt v Air Canada. Secondo una sintesi dell'American Bar Association, il 14 febbraio 2024 un tribunale della Columbia Britannica ha stabilito che la compagnia aerea era responsabile di dichiarazione negligente fuorviante dopo che il chatbot del suo sito aveva dato a un cliente informazioni errate sulle tariffe per lutto. Il tribunale ha respinto l'argomento secondo cui il chatbot era un'entità separata responsabile delle proprie azioni e ha ritenuto che la compagnia sia responsabile di tutte le informazioni presenti sul proprio sito, statiche o generate da chatbot. L'importo riconosciuto era modesto, circa 650 dollari canadesi più interessi e spese, ma ciò che conta è il ragionamento. È una decisione canadese, non europea, quindi indica la direzione di marcia più che un diritto vincolante per i brand europei.

Che cosa conta come incidente IA?

Definitelo in modo ampio nel piano, poi graduatelo. Un incidente può essere un errore di fatto in una risposta a un cliente, un assistente che fa promesse che l'azienda non può mantenere, un output offensivo o discriminatorio, una fuga di dati riservati o personali attraverso un prompt o un output, un errore di prezzo pubblicato nello store o un'immagine generata che viola diritti o travisa un prodotto. L'AI Act ha un proprio termine più ristretto, l'incidente grave, che si applica ai sistemi ad alto rischio.

Leggi anche

Una policy di uso accettabile dell'IA per i team della moda: una checklist

Come deve essere la prima ora?

La rapidità dipende dalla preparazione. La sequenza seguente funziona per la maggior parte dei team, e ogni passo dovrebbe avere in anticipo un responsabile indicato nominativamente:

1. Contenere: usare un kill switch o un'alternativa per mettere in pausa la funzione, instradare verso operatori umani o tornare a una versione precedente.
2. Conservare le prove: salvare prompt, output, log, versioni del modello e della configurazione e screenshot con data e ora prima di cambiare qualsiasi cosa.
3. Triage: assegnare un livello di gravità e nominare un responsabile dell'incidente.
4. Valutare la portata: stabilire quante persone hanno visto l'output, quali canali e mercati sono coinvolti e se sono interessati dati personali o minori.
5. Verificare i termini legali: chiedere a legale e protezione dei dati se sono scattati obblighi di notifica.
6. Decidere le comunicazioni: concordare un'unica fonte interna di verità e un unico portavoce esterno.
7. Correggere e verificare: eliminare la causa, testare con il caso che ha fallito e con casi analoghi e ripristinare il servizio per gradi.

Quali termini legali possono scattare?

Due regimi meritano una verifica, e un terzo è una questione contrattuale.

Protezione dei dati. Se l'incidente comporta una violazione di dati personali, l'articolo 33 del GDPR impone al titolare del trattamento di notificare all'autorità di controllo competente la violazione senza ingiustificato ritardo e, ove possibile, entro 72 ore dal momento in cui ne è venuto a conoscenza, a meno che sia improbabile che la violazione presenti un rischio per i diritti e le libertà delle persone. Il responsabile del trattamento deve informare il titolare senza ingiustificato ritardo. Una notifica tardiva deve indicare i motivi del ritardo.

AI Act. L'articolo 73 riguarda gli incidenti gravi che coinvolgono sistemi di IA ad alto rischio. Il termine generale è la segnalazione immediata non appena è stabilito, o ragionevolmente probabile, un nesso causale e in ogni caso entro 15 giorni dal momento in cui se ne è venuti a conoscenza. Per un'infrazione diffusa il limite è di 2 giorni e, in caso di decesso di una persona, di 10 giorni. I deployer di sistemi ad alto rischio devono, ai sensi dell'articolo 26, informare il fornitore e le autorità competenti degli incidenti gravi. Gli obblighi per l'alto rischio dei sistemi autonomi si applicano ora dal 2 dicembre 2027, quindi la questione riguarda soprattutto strumenti in ambiti come la selezione del personale e la gestione dei lavoratori. La maggior parte degli strumenti di assistenza clienti e di merchandising della moda non rientra nell'ambito, ma gli obblighi di trasparenza dell'articolo 50 si applicano dal 2 agosto 2026.

Contratti. Gli accordi con fornitori e retailer possono prevedere propri termini di preavviso per gli incidenti che riguardano dati o clienti condivisi. Controllateli presto.

Come deve comunicare pubblicamente un brand?

Dite che cosa è successo con parole semplici, dite che cosa si sta facendo, dite che cosa devono fare i clienti ed evitate di dare la colpa alla tecnologia o al fornitore. Una dichiarazione come "il nostro assistente ha fornito informazioni errate e lo abbiamo spento mentre risolviamo il problema" è più facile da sostenere di una che lasci intendere che il sistema abbia agito da solo. Quando i clienti hanno agito sulla base di informazioni sbagliate, decidete in anticipo come l'azienda li risarcirà, dato che il ragionamento del caso Air Canada suggerisce che un tribunale potrebbe aspettarselo.

Come si impara da un incidente IA?

Chiudete ogni incidente con una breve revisione scritta: che cosa è successo, quale controllo ha fallito, che cosa è cambiato. Aggiungete il prompt che ha fallito e casi analoghi a un set di test di regressione, adeguate i guardrail o le regole di revisione e registrate se il fornitore deve intervenire. Il NIST AI Risk Management Framework, che è volontario, raggruppa questo lavoro nella funzione Manage, accanto a Govern, Map e Measure, e può dare alla revisione una struttura riconosciuta.

Leggi anche

Che cosa dovrebbe chiedere un consiglio di amministrazione sull'IA? Un briefing per gli amministratori della moda

Che cosa va preparato prima del lancio?

Prima che qualsiasi IA rivolta ai clienti vada online, verificate che esista un modo per disattivarla rapidamente, che i log siano conservati e consultabili, che esista un'alternativa umana, che i fornitori si siano impegnati a segnalarvi difetti ed eventi di sicurezza e che il responsabile dell'incidente e il portavoce siano stati nominati. Una preparazione di questo tipo costa poco rispetto al costo di una correzione pubblica non pianificata.