Was ist der EU AI Act und was bedeutet er für die Mode?
Die Verordnung der Europäischen Union über künstliche Intelligenz, die Pflichten nach dem Risikoniveau eines KI-Systems festlegt.
Kurz erklärt
Der EU AI Act (KI-Verordnung der EU) ist die Verordnung der Europäischen Union über künstliche Intelligenz, die Pflichten nach der Risikostufe eines KI-Systems festlegt. Sie gilt für Unternehmen, die KI auf dem EU-Markt in Verkehr bringen oder dort nutzen, einschliesslich Modemarken und Händlern mit Sitz ausserhalb der EU.
Wie funktioniert es in der Praxis?
Die Verordnung ordnet KI-Anwendungen Kategorien mit unterschiedlichen Regeln zu:
- Verbotene Praktiken, etwa bestimmte manipulative oder ausbeuterische Anwendungen, die untersagt sind.
- Hochrisiko-Systeme, etwa manche Recruiting-Tools, für die strenge Anforderungen gelten.
- Transparenzpflichten für Dinge wie Chatbots und synthetische Medien.
- Regeln für KI-Modelle mit allgemeinem Verwendungszweck und deren Anbieter.
Die Pflichten hängen auch von der Rolle eines Unternehmens ab. Ein Anbieter entwickelt ein KI-System oder bringt es in Verkehr, ein Betreiber nutzt es im eigenen Geschäft. Die meisten Modeunternehmen sind Betreiber von Tools, die andere entwickelt haben. Die Verordnung gilt stufenweise, sodass unterschiedliche Pflichten zu unterschiedlichen Zeitpunkten wirksam werden.
Warum ist das wichtig?
Modeunternehmen setzen KI in vielen Funktionen ein, von Recruiting und Kundenservice bis zu Bildern und Prognosen. Für die meisten dieser Anwendungen gelten begrenzte Pflichten, doch manche, etwa die Vorauswahl von Bewerbenden für Stores oder Lager, können als Hochrisiko gelten. Chatbots im Kundenkontakt und KI-generierte Inhalte bringen zudem Transparenzpflichten mit sich. Verstösse können zu erheblichen Bussgeldern und Reputationsschäden führen.
Wie nutzt KI ihn?
Die Verordnung prägt, wie KI ausgewählt und eingesetzt wird, und ist selbst kein KI-Verfahren. Marken verlangen von Anbietern Dokumentation, kennzeichnen KI-Interaktionen und generierte Inhalte und bauen Prüfprozesse in ihre KI-Workflows ein.
Typische Fallstricke
Ein häufiger Fehler ist die Annahme, die Verordnung betreffe nur Technologieunternehmen. Weitere Fehler sind ein fehlender Überblick, welche KI-Tools im Einsatz sind, übersehene KI in gekaufter Software und die Vernachlässigung der KI-Kompetenz der Mitarbeitenden. Ein praktischer erster Schritt besteht darin, alle KI-Anwendungen, von Recruiting-Tools bis zu generierten Bildern, den Kategorien der Verordnung zuzuordnen und dann im Rahmen eines KI-Governance-Frameworks Verantwortliche und Massnahmen festzulegen.
Häufige Fragen
Gilt der EU AI Act auch für Modemarken ausserhalb der EU?
Ja, wenn sie KI-Systeme auf dem EU-Markt in Verkehr bringen oder KI nutzen, deren Ergebnisse in der EU verwendet werden. Eine Marke, die an Kunden oder Händler in der EU verkauft, sollte prüfen, wie ihre KI-Anwendungen betroffen sind.
Sind Produktempfehlungssysteme nach dem EU AI Act Hochrisiko-Systeme?
Übliche Produktempfehlungen werden in der Regel nicht als Hochrisiko eingestuft. Sie können aber anderen Vorschriften unterliegen, etwa dem Verbraucherschutz- und Datenschutzrecht.
