Eine KI-Nutzungsrichtlinie für Modeteams: eine Checkliste

Eine KI-Nutzungsrichtlinie für ein Modeunternehmen sollte auf wenigen Seiten sechs Fragen beantworten: welche Tools zugelassen sind, welche Daten eingegeben werden dürfen, was vor der Verwendung von Ergebnissen geprüft werden muss, wann der KI-Einsatz offenzulegen ist, was tabu ist und wen man informiert, wenn etwas schiefgeht. Die folgende Checkliste macht daraus Punkte, die ein Team abhaken kann, mit Verweisen auf den EU AI Act und das freiwillige NIST-Framework, wo sie hilfreich sind.

Warum braucht ein Modeteam eine KI-Nutzungsrichtlinie?

KI-Tools erreichen Modeteams gleichzeitig aus mehreren Richtungen: generative Tools für Text und Bild, in PLM-, Merchandising- und E-Commerce-Plattformen eingebettete Funktionen und private Konten, die Mitarbeitende selbst eröffnen. Ohne Richtlinie entscheidet jedes Team separat, was in einen Prompt eingefügt wird, womöglich unveröffentlichte Kollektionen, Lieferantenpreise, Händlerkonditionen oder Kundendaten.

Es gibt auch einen rechtlichen Grund. Artikel 4 des AI Act verlangt von Anbietern und Betreibern Massnahmen, um die KI-Kompetenz ihres Personals und anderer Personen zu fördern, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, unter Berücksichtigung ihrer technischen Kenntnisse, Erfahrung, Ausbildung, Schulung und des Kontexts. Der Artikel hält fest, dass er kein garantiertes Kompetenzniveau für einzelne Personen verlangt. Eine schriftliche Richtlinie, Schulungsnachweise und benannte Verantwortliche sind eine vernünftige Möglichkeit, zu zeigen, dass solche Massnahmen bestehen.

Was sollte die Richtlinie abdecken? Die Checkliste

Die folgende Liste dient als Ausgangsstruktur. Jeder Punkt sollte in der Richtlinie als ein oder zwei Sätze mit einer verantwortlichen Person enden.

1. Zweck und Geltungsbereich: festhalten, wer erfasst ist (Angestellte, Freelancer, Agenturen) und welche Tools (generative Assistenten, eingebettete Funktionen, Agenten).
2. Liste zugelassener Tools: die für die Arbeit erlaubten Tools nennen, mit Versionen oder Konten, und wer Ergänzungen genehmigt.
3. Private Konten: festlegen, ob Arbeitsinhalte in Konsumentenkonten eingegeben werden dürfen.
4. Datenklassen: definieren, was nie eingegeben werden darf (zum Beispiel Personendaten von Kundschaft oder Mitarbeitenden, unveröffentlichte Designs, Vertragskonditionen, Kostendaten von Lieferanten) und was erlaubt ist.
5. Menschliche Prüfung: festlegen, welche Ergebnisse vor der Verwendung von einer benannten Person geprüft werden müssen, etwa Produktaussagen, Grössen- und Materialangaben, Rechtstexte und Kundennachrichten.
6. Offenlegung: sagen, wann der KI-Einsatz gegenüber Kundschaft, Handelspartnern oder Kolleginnen und Kollegen offenzulegen ist.
7. Geistiges Eigentum: Regeln für generierte Designs, für Prompts, die auf benannte Designer oder Marken verweisen, und für die Verwendung von Bildern Dritter als Input festlegen.
8. Verbotene Nutzungen: Nutzungen aufführen, die tabu sind.
9. Vorfälle: erklären, wie ein falsches, schädliches oder abgeflossenes Ergebnis gemeldet wird und an wen.
10. Schulung: Onboarding und Auffrischungen mit Nachweis verlangen.
11. Verantwortung und Überprüfung: die verantwortliche Person für die Richtlinie und einen Überprüfungszyklus benennen.

Lesen Sie auch

Was sollte der Verwaltungsrat zu KI fragen? Ein Briefing für Führungsgremien in der Mode

Welche Daten sollten Mitarbeitende nie in ein KI-Tool eingeben?

Die Datenregeln sind der Teil einer Richtlinie, bei dem Mitarbeitende am dringendsten Konkretes brauchen. Eine kurze Tabelle hilft.

Verträge mit Händlern und Lieferanten können einschränken, wie deren Daten verarbeitet werden dürfen, die Richtlinie sollte Mitarbeitende daher anweisen, vor der Eingabe solchen Materials zu prüfen. Sind Personendaten betroffen, gilt neben dem AI Act das EU-Datenschutzrecht, das er in Artikel 2 ausdrücklich unberührt lässt.

Wann muss ein Mensch KI-Ergebnisse prüfen?

Prüfregeln nach Folgen festlegen, nicht nach Tool. Ergebnisse, die veröffentlicht, an Kundschaft oder Partner gesendet, in einer rechtlichen oder regulatorischen Erklärung verwendet oder für Entscheide über Personen herangezogen werden, verdienen eine benannte Prüferin oder einen benannten Prüfer. Typische Punkte in der Mode sind Nachhaltigkeits- und Materialaussagen, Grössen- und Pflegeinformationen, Preis- oder Verfügbarkeitsangaben und jeder Text, der als vom Unternehmen stammend dargestellt wird. Interne Entwürfe und Brainstormings können leichter geprüft werden. Die Richtlinie sollte auch festhalten, dass die Person, die das Ergebnis veröffentlicht, dafür verantwortlich bleibt, ein Grundsatz, den Gerichte und Tribunale auf Chatbot-Ausgaben auf Unternehmenswebsites angewendet haben.

Was sollte die Richtlinie verbieten?

Eine Verbotsliste ist kurz, aber konkret. Aus dem AI Act abgeleitete Kandidaten sind der Einsatz von KI zur Ableitung der Emotionen von Mitarbeitenden, den Artikel 5 am Arbeitsplatz und in der Bildung ausser aus medizinischen oder Sicherheitsgründen verbietet. Über das Gesetz hinaus ergänzen viele Unternehmen: die Eingabe eingeschränkter Daten in nicht zugelassene Tools, die Darstellung von KI-Ergebnissen als menschengemacht, wo Offenlegung erwartet wird, die Erzeugung von Bildern realer Personen ohne Einwilligung und den Einsatz von KI für oder zur Unterstützung von Personalentscheiden ohne dokumentierte Prüfung. Recruiting- und Workforce-Management-Tools sind in Anhang III des Gesetzes als Hochrisiko-Anwendungen genannt, mit Pflichten, die nach dem Digital Omnibus ab Dezember 2027 gelten.

Lesen Sie auch

KI-Governance für Modeunternehmen: ein pragmatischer Einstieg

Wie sollte die Richtlinie mit der Offenlegung umgehen?

Es gelten zwei Ebenen. Rechtlich verlangt Artikel 50 des AI Act, anwendbar ab dem 2. August 2026, dass Personen informiert werden, wenn sie mit einem KI-System interagieren, dass synthetische Inhalte von Anbietern gekennzeichnet werden und dass Deepfakes von Betreibern offengelegt werden. Kommerziell können Handelspartner Lieferanten bitten anzugeben, wie KI in Produktinhalten eingesetzt wird. Die Richtlinie sollte festlegen, wer über den Wortlaut der Offenlegung gegenüber Kundschaft und Partnern entscheidet, damit einzelne Teams nicht improvisieren.

Das im Januar 2023 veröffentlichte NIST AI Risk Management Framework ist für die freiwillige Nutzung gedacht und um vier Funktionen aufgebaut: Govern, Map, Measure und Manage. NIST veröffentlichte im Juli 2024 zudem ein Profil für generative KI. Ein Modeunternehmen kann die Struktur übernehmen, ohne das gesamte Framework einzuführen. Govern entspricht der Verantwortung, den Freigaben und der Schulung. Map entspricht dem Register der Tools und Anwendungsfälle. Measure entspricht Stichproben bei der Prüfung und der Fehlererfassung. Manage entspricht der Behandlung von Vorfällen und der Ausmusterung von Tools.

Eine verantwortliche Person bestimmen, häufig aus Recht, IT oder einer funktionsübergreifenden KI-Gruppe, sowie je eine Vertretung aus Design, Merchandising, E-Commerce, Wholesale und HR. Die Einführung über kurze Sessions mit Beispielen aus der Mode statt mit abstrakten Regeln durchführen, die Teilnahme festhalten und einen Termin für die erste Überprüfung setzen. Fragen verfolgen, die in den ersten Monaten eintreffen, denn sie zeigen, wo die Richtlinie unklar ist.