KI zur Mitarbeiterüberwachung in Lieferantenfabriken: Risiken nach AI Act und Arbeitsrecht

DAS WICHTIGSTE Zusammenfassung der Redaktion

1. Artikel 5 des EU AI Act verbietet den Einsatz von KI zur Ableitung der Emotionen von Menschen am Arbeitsplatz, ausser wenn sie aus medizinischen oder Sicherheitsgründen vorgesehen ist, und dieses Verbot gilt seit dem 2. Februar 2025.
2. Anhang III des AI Act führt als Hochrisiko-Systeme jene KI-Systeme auf, die dazu dienen, Aufgaben auf Basis individuellen Verhaltens oder persönlicher Merkmale zuzuweisen oder die Leistung und das Verhalten von Arbeitnehmenden zu überwachen und zu bewerten, mit Pflichten, die nun ab dem 2. Dezember 2027 gelten.
3. Das Gesetz kann Anbieter und Betreiber ausserhalb der EU erfassen, wenn die Ausgabe des KI-Systems in der Union verwendet wird, ob aber eine bestimmte Lieferantenfabrik in den Anwendungsbereich fällt, hängt von den Tatsachen ab und erfordert Rechtsberatung.
4. Nach Artikel 26 müssen Arbeitgeber, die am Arbeitsplatz ein Hochrisiko-System einsetzen, die Arbeitnehmervertretungen und die betroffenen Arbeitnehmenden vor der Inbetriebnahme informieren.
5. Marken tragen auch dann Reputations- und Vertragsrisiken, wenn der AI Act nicht direkt gilt, Einkäufer sollten Lieferanten daher fragen, welche Überwachungstechnologie auf welcher Rechtsgrundlage eingesetzt wird.

KI zur Mitarbeiterüberwachung in Lieferantenfabriken birgt für Modemarken zwei Arten von Risiko: direkte rechtliche Risiken nach Regeln wie dem EU AI Act und indirekte Risiken durch Sorgfaltspflichten in der Lieferkette und Reputation. Das Gesetz verbietet die Emotionserkennung am Arbeitsplatz ausdrücklich und stuft KI zur Überwachung und Bewertung von Arbeitnehmenden als hochriskant ein, Marken, die von Fabriken mit solchen Tools beziehen, sollten daher wissen, wo die Grenzen verlaufen, auch wenn die Fabrik ausserhalb der EU liegt.

Was ist KI zur Mitarbeiterüberwachung in einer Textilfabrik?

Der Begriff umfasst Software, die Arbeitende beobachtet oder bewertet. In der Bekleidungs- und Schuhproduktion gehören dazu typischerweise Kameraanalysen, die den Output je Arbeitsplatz erfassen, Sensoren und Software, die Nähvorgänge zeitlich messen, Systeme, die Aufgaben zuweisen oder Ziele anhand der individuellen Geschwindigkeit festlegen, Zeiterfassungs- und Zutrittssysteme mit biometrischen Merkmalen sowie Tools, die vorgeben, Ermüdung, Aufmerksamkeit oder Stimmung aus Gesichtern oder Stimmen zu lesen. Manche werden als Effizienz- oder Sicherheitsprodukte verkauft. Die rechtliche Frage lautet, was das System ableitet, wie die Ergebnisse verwendet werden und wer betroffen ist.

Was sagt der AI Act zur Überwachung von Arbeitnehmenden?

Zwei Bestimmungen sind am wichtigsten. Erstens verbietet Artikel 5 Absatz 1 Buchstabe f den Einsatz von KI-Systemen zur Ableitung der Emotionen einer natürlichen Person am Arbeitsplatz und in Bildungseinrichtungen, ausser das System ist aus medizinischen oder Sicherheitsgründen vorgesehen, um in Betrieb genommen oder in Verkehr gebracht zu werden. Die Verbote gelten seit dem 2. Februar 2025. Bussgelder für verbotene Praktiken können bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes betragen, je nachdem, welcher Betrag höher ist.

Zweitens stuft Anhang III als hochriskant KI-Systeme ein, die dazu bestimmt sind, Entscheidungen über die Bedingungen arbeitsbezogener Beziehungen, über Beförderung oder Kündigung zu treffen, Aufgaben auf Basis individuellen Verhaltens oder persönlicher Eigenschaften oder Merkmale zuzuweisen oder die Leistung und das Verhalten von Personen in solchen Beziehungen zu überwachen und zu bewerten. Nach dem Digital Omnibus gelten die Pflichten für eigenständige Systeme nach Anhang III ab dem 2. Dezember 2027. Betreiber müssen nach Artikel 26 unter anderem das System gemäss der Betriebsanleitung des Anbieters verwenden, kompetente menschliche Aufsicht zuweisen, die von ihnen kontrollierten Protokolle mindestens sechs Monate aufbewahren und die Arbeitnehmervertretungen und betroffenen Arbeitnehmenden vor der Verwendung am Arbeitsplatz informieren.

Lesen Sie auch

KI für Beschaffungs- und Supply-Chain-Manager in der Mode

Gilt der AI Act für eine Fabrik ausserhalb der EU?

Nicht automatisch. Artikel 2 erfasst Anbieter, die Systeme auf dem EU-Markt in Verkehr bringen, Betreiber mit Sitz in der EU sowie Anbieter und Betreiber in Drittländern, wenn die vom KI-System erzeugte Ausgabe in der Union verwendet wird. Eine Fabrik in einem Land ausserhalb der EU, die ihre eigenen Arbeitenden überwacht und deren Ausgaben nur lokal verwendet werden, ist ein anderer Fall als eine Marke mit Sitz in der EU, die ein Überwachungssystem kauft oder die personenbezogene Ausgaben aus Lieferantensystemen erhält und nutzt. Wo die Grenze liegt, hängt von Tatsachen ab, etwa davon, wer das System betreibt, wo die Ausgabe verwendet wird und für welche Entscheidungen. Das ist ein Punkt für Rechtsberatung, und der Artikel ist nicht als Entscheidung zu einer bestimmten Lieferkette zu lesen.

Eine weitere Vorsicht: Der Anwendungsbereich des AI Act ist nur eine Ebene. Datenschutzrecht, Arbeitsrecht und Regeln zu Betriebsräten oder Konsultationen gelten in den Ländern, in denen die Arbeitenden beschäftigt sind, und das EU-Datenschutzrecht gilt neben dem AI Act weiter. Lokale Regeln zur Überwachung am Arbeitsplatz unterscheiden sich stark und erfordern lokale Beratung.

Warum sollten Marken sich darum kümmern, auch wenn das Gesetz nicht gilt?

Marken haben drei Gründe. Erstens die Reputation: Die Überwachung gering bezahlter Arbeitender durch KI zieht Aufmerksamkeit von Presse und Zivilgesellschaft auf sich, und Marken werden mit den Bedingungen ihrer Lieferanten verknüpft. Zweitens die Sorgfaltspflicht: Einkäufer fragen Lieferanten zunehmend nach Arbeitsbedingungen, und aufdringliche Überwachung, die Lohn, Pausen oder Würde betrifft, gehört in dieses Gespräch. Drittens die Datenflüsse: Gelangen Überwachungsdaten an Einkäufer oder Konzerngesellschaften in der EU, kann die Marke zur Nutzerin dieser Ausgaben werden und Pflichten tragen, die sie nicht erwartet hat.

Was können Einkäufer und Beschaffungsteams Lieferanten fragen?

Ein kurzer Fragebogen liefert Informationen, ohne zu einem Audit jedes Systems zu werden. Nützliche Fragen sind:

• Welche KI- oder Analysesysteme überwachen Arbeitende oder bewerten ihre Leistung, und wer hat sie geliefert?
• Was leitet jedes System ab: Output, Anwesenheit, Sicherheitsbedingungen, Emotionen oder Ermüdung?
• Werden Arbeitende und ihre Vertretungen über die Überwachung informiert, und wie?
• Werden die Daten für Entscheide über Lohn, Disziplinarmassnahmen, Beförderung oder Kündigung verwendet?
• Werden Überwachungsdaten mit der Marke oder ihren Agenten geteilt, und in welcher Form?
• Auf welche lokale Rechtsgrundlage stützt sich der Lieferant, und wurde sie geprüft?

Wie sollte eine Marke mit erhaltenen Überwachungsdaten umgehen?

Als sensibel behandeln. Aggregierte Kennzahlen wie Linieneffizienz oder Fehlerquoten bevorzugen gegenüber Ausgaben auf Ebene einzelner Personen. Keine Bewertungen pro Arbeitende verlangen, solange kein klarer und rechtmässiger Zweck besteht, denn ihr Besitz kann Pflichten und Risiken erzeugen. Einschränkungen in Lieferantenverträge aufnehmen: keine Emotionserkennung, keine Verwendung von Überwachungsdaten als alleinige Grundlage für Kündigungen und eine Pflicht, die Arbeitenden zu informieren.

Lesen Sie auch

Wie kann KI Lieferantenrisiken und Compliance in der Mode überwachen?

Welche Fragen sind offen?

Mehrere Fragen sind ungeklärt. Aufsichtsbehörden und Gerichte müssen noch sagen, wie weit das Gesetz über den Test der in der Union verwendeten Ausgabe in Lieferantenbetriebe ausserhalb der EU hineinreicht. Die Grenze zwischen Sicherheitsanwendungen, die vom Verbot der Emotionserkennung ausgenommen sind, und Wohlfahrts- oder Produktivitätsanwendungen dürfte umstritten sein. Und die Hochrisiko-Regeln für das Personalmanagement gelten erst ab Dezember 2027, Leitlinien und Normen sind also noch in Entwicklung. Marken können früh handeln, indem sie erfassen, was ihre wichtigsten Lieferanten einsetzen, und Erwartungen in Verträgen festlegen.

Häufige Fragen

Ist Emotionserkennung in Fabriken in der EU verboten?

Artikel 5 Absatz 1 Buchstabe f des AI Act verbietet den Einsatz von KI zur Ableitung der Emotionen einer Person am Arbeitsplatz und in der Bildung, ausser aus medizinischen oder Sicherheitsgründen. Das Verbot gilt seit dem 2. Februar 2025.

Ist KI zur Produktivitätserfassung nach dem AI Act hochriskant?

Anhang III führt KI-Systeme, die dazu bestimmt sind, die Leistung und das Verhalten von Arbeitnehmenden zu überwachen und zu bewerten und Aufgaben auf Basis individuellen Verhaltens oder persönlicher Merkmale zuzuweisen, als hochriskant auf. Diese Pflichten gelten nun ab dem 2. Dezember 2027, je nach Gestaltung und Verwendung des Systems.

Gilt der AI Act für meine Lieferanten in Asien?

Möglicherweise, aber nicht automatisch. Artikel 2 erfasst Anbieter und Betreiber in Drittländern, wenn die Ausgabe des KI-Systems in der Union verwendet wird, die Antwort hängt also davon ab, wer das System betreibt und wo seine Ausgabe verwendet wird. Für konkrete Fälle Rechtsberatung einholen.

Was müssen Arbeitgeber tun, bevor sie Hochrisiko-KI bei Mitarbeitenden einsetzen?

Nach Artikel 26 müssen Arbeitgeber, die am Arbeitsplatz ein Hochrisiko-System einsetzen, die Arbeitnehmervertretungen und die betroffenen Arbeitnehmenden vor der Inbetriebnahme oder Verwendung informieren, zusätzlich zu den Pflichten bei Aufsicht, Eingabedaten und Protokollführung.

LeitfadenDer umfassende Leitfaden zu KI in der Mode-Supply-Chain und NachhaltigkeitDen ganzen Leitfaden lesen