Gilt KI für Rekrutierung und Schichtplanung als Hochrisiko nach dem EU AI Act?

Ja, in vielen Fällen. Der EU AI Act stuft KI, die zur Rekrutierung und Auswahl von Personal, für Entscheidungen über Beförderung oder Kündigung, zur Zuteilung von Aufgaben auf Basis individuellen Verhaltens oder persönlicher Merkmale sowie zur Überwachung oder Bewertung von Mitarbeitenden eingesetzt wird, als hochriskant ein. Für Modehändler, die in grossem Umfang saisonales Verkaufspersonal einstellen und zunehmend algorithmische Dienstplanung nutzen, ist dies der Teil des Act, der am ehesten echte Pflichten mit sich bringt. Die Regeln gelten für diese Systeme ab dem 2. Dezember 2027.

Welche HR-Tools stuft der AI Act als hochriskant ein?

Ziffer 4 von Anhang III betrifft Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit. Sie nennt zwei Gruppen von Systemen. Die erste, Ziffer 4(a), umfasst KI, die für die Rekrutierung oder Auswahl bestimmt ist, insbesondere für das Schalten gezielter Stellenanzeigen, die Analyse und Filterung von Bewerbungen und die Bewertung von Kandidierenden. Die zweite, Ziffer 4(b), umfasst KI, die dazu bestimmt ist, Entscheidungen über die Bedingungen von Arbeitsverhältnissen, über Beförderung oder Kündigung von Verträgen zu treffen, Aufgaben auf Basis individuellen Verhaltens oder persönlicher Eigenschaften oder Merkmale zuzuteilen und die Leistung und das Verhalten von Mitarbeitenden zu überwachen und zu bewerten.

Die Unterscheidung in den Zeilen zur Schichtplanung ist wichtig. Ein Dienstplanungstool, das die Personalstärke an eine Frequenzprognose anpasst, ist ein Planungstool. Sobald dasselbe Tool auf Basis individueller Kennzahlen entscheidet, welche Mitarbeiterin oder welcher Mitarbeiter welche Schicht erhält, bewegt es sich in Richtung Anhang III 4(b). Die Einstufung hängt vom Verwendungszweck ab, den der Anbieter beschreibt, und davon, wie der Händler das System tatsächlich nutzt.

Was ist am Arbeitsplatz bereits verboten?

Artikel 5 gilt seit dem 2. Februar 2025. Sein Buchstabe (f) verbietet KI-Systeme, die die Emotionen einer natürlichen Person am Arbeitsplatz und in Bildungseinrichtungen ableiten, ausser wenn das System für medizinische Zwecke oder Sicherheitszwecke bestimmt ist. Für Geschäfte schliesst das Tools aus, die Gesichtsausdrücke oder Stimmen von Mitarbeitenden auslesen, um Engagement, Stress oder Freundlichkeit gegenüber der Kundschaft abzuleiten.

Lesen Sie auch

KI für CIOs und IT-Verantwortliche in der Mode: Architektur, Daten und Governance

Was muss ein Arbeitgeber tun, wenn er Hochrisiko-KI im HR einsetzt?

Die meisten Händler werden Betreiber von HR-KI sein, die sie bei Softwareanbietern einkaufen. Artikel 26 legt ihre Pflichten fest, die für Systeme nach Anhang III ab dem 2. Dezember 2027 gelten:

1. Das System gemäss Anleitung verwenden, die der Anbieter bereitstellt, mit geeigneten technischen und organisatorischen Massnahmen.
2. Menschliche Aufsicht bestimmen, die über die nötige Kompetenz, Schulung und Befugnis verfügt, und diese Personen unterstützen.
3. Eingabedaten kontrollieren, soweit der Arbeitgeber sie liefert, damit sie für den Zweck relevant und hinreichend repräsentativ sind.
4. Den Betrieb überwachen und, falls das System ein Risiko darstellen könnte, den Anbieter informieren und die Nutzung aussetzen; schwerwiegende Vorfälle melden.
5. Automatisch erzeugte Protokolle aufbewahren, soweit sie der Kontrolle des Arbeitgebers unterliegen, und zwar mindestens sechs Monate, sofern anderes Recht nichts anderes vorschreibt.
6. Arbeitnehmervertretung und betroffene Mitarbeitende informieren, bevor das System am Arbeitsplatz in Betrieb genommen wird.
7. Bewerbende und Mitarbeitende benachrichtigen, wenn ein Hochrisikosystem Entscheidungen über sie trifft oder dabei unterstützt.
8. Die Informationen des Anbieters nutzen, um, wo erforderlich, eine Datenschutz-Folgenabschätzung nach der DSGVO durchzuführen.

Warum bedeutet die Verschiebung auf 2027 nicht abwarten?

Der AI Omnibus hat die Pflichten nach Anhang III vom 2. August 2026 auf den 2. Dezember 2027 verschoben. Arbeitsrechtsexperten von Cuatrecasas warnen davor, dies als Pause zu verstehen. Artikel 22 der DSGVO schränkt bereits heute Entscheidungen über Mitarbeitende ein, die ausschliesslich auf automatisierter Verarbeitung beruhen und erhebliche Auswirkungen haben, und mehrere Mitgliedstaaten räumen der Arbeitnehmervertretung bereits Informationsrechte zu Algorithmen ein. Ihr Beispiel: Das spanische Arbeitnehmerstatut gibt der Arbeitnehmervertretung ein Recht auf Information über Algorithmen, die die Arbeitsbedingungen beeinflussen, und das portugiesische Arbeitsgesetzbuch enthält ähnliche Informationspflichten.

Der AI Act ist zudem nur eine Untergrenze. Mitgliedstaaten und Gesamtarbeitsverträge können strengere Regeln für KI am Arbeitsplatz festlegen, und Cuatrecasas stellt fest, dass sich Gesamtarbeitsverträge zunehmend mit KI befassen. Händler, die in mehreren Ländern tätig sind, sollten daher mit nationalen Unterschieden bei den Konsultationspflichten rechnen, auch wenn die harmonisierten Regeln des Act gelten.

Wie sollte sich ein Modehändler vorbereiten?

Mit drei Schritten bringt sich ein Unternehmen lange vor Dezember 2027 in eine vertretbare Position:

• HR-KI erfassen. Berücksichtigen Sie Funktionen, die in Bewerbermanagement-, Personaleinsatzplanungs- und Clienteling-Apps eingebettet sind, nicht nur eigenständige Tools.
• Anbieter nach der Einstufung fragen. Fordern Sie die Einschätzung des Anbieters an, ob das System unter Anhang III fällt, welchen Verwendungszweck es hat und welche Protokolle und Dokumentation bereitgestellt werden.
• Aufsicht in die Abläufe im Geschäft einbauen. Legen Sie fest, wer eine KI-Auswahlliste oder einen KI-Dienstplan übersteuern darf, wie Bewerbende eine menschliche Überprüfung verlangen können und wie Filialleitende geschult werden.

Saisonale Spitzen verdienen besondere Aufmerksamkeit. Wenn ein Händler Tausende von Bewerbungen für das Weihnachtsgeschäft sichtet, ist die Versuchung am grössten, das Ranking ungeprüft laufen zu lassen, und ebenso das Risiko, Gruppen systematisch auszuschliessen, weil historische Rekrutierungsdaten frühere Verzerrungen widerspiegeln. Repräsentative Eingabedaten und eine echte menschliche Überprüfung sind sowohl rechtliche Anforderungen als auch die praktischen Schutzmechanismen gegen ein solches Ergebnis.

Lesen Sie auch

KI-Governance für Modeunternehmen: ein pragmatischer Einstieg

Was gilt für KI, die Führungskräfte nur unterstützt?

Unterstützende Tools, etwa für das Verfassen von Stellenbeschreibungen oder das Zusammenfassen von Gesprächsnotizen, sind in Anhang III in der Regel nicht aufgeführt, weil sie Kandidierende nicht selbst analysieren, filtern oder bewerten. Die Grenze ist funktional, nicht technisch: Wenn sich eine Führungskraft auf die Ausgabe des Tools stützt, um Personen zu ordnen, kann die Nutzung hochriskant geworden sein, unabhängig davon, wie der Anbieter das Tool vermarktet.