Chatbots und KI-Agenten nach dem AI Act offenlegen: Formulierung und Platzierung

Nach Artikel 50 Absatz 1 des EU AI Act muss ein Chatbot oder KI-Agent so gestaltet sein, dass die Person, die ihn nutzt, weiss, dass sie es mit einer Maschine zu tun hat, ausser dies ist für eine angemessen informierte Person offensichtlich. Die Information muss spätestens bei der ersten Interaktion in klarer und erkennbarer Form erfolgen. In der Praxis heisst das ein sichtbares Label und ein kurzer Satz in einfacher Sprache zu Beginn des Gesprächs, nicht eine in den Allgemeinen Geschäftsbedingungen vergrabene Zeile.

Was verlangt der AI Act, wenn eine Kundin mit einem Chatbot spricht?

Artikel 50 Absatz 1 legt die Gestaltungspflicht den Anbietern von Systemen auf, die direkt mit natürlichen Personen interagieren: Sie müssen sicherstellen, dass die betroffenen Personen informiert werden, dass sie mit einem KI-System interagieren, ausser dies ist aus Sicht einer angemessen informierten Person offensichtlich. Artikel 50 Absatz 5 ergänzt die Form: Die Information muss spätestens zum Zeitpunkt der ersten Interaktion oder Exposition erfolgen, klar und erkennbar dargestellt werden und die geltenden Barrierefreiheitsanforderungen erfüllen.

Die Pflichten gelten seit dem 2. August 2026. Verstösse gegen Artikel 50 fallen unter die Stufe in Artikel 99 von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist, wobei für kleine und mittlere Unternehmen der niedrigere der beiden Beträge gilt.

Wer ist verantwortlich, der Händler oder der Chatbot-Anbieter?

Die Pflicht zur Gestaltung des Systems liegt beim Anbieter. Ein Unternehmen, das einen Chatbot lizenziert, ist meist Betreiber, doch eine Marke, die einen Assistenten bauen lässt und unter eigenem Namen oder eigener Marke lanciert, kann selbst Anbieterin sein. Der einfachste Weg ist, die Offenlegung als gemeinsame Aufgabe zu behandeln. Den Anbieter bestätigen lassen, dass das System die Offenlegung unterstützt, und dann in der Live-Customer-Journey prüfen, dass sie erscheint, denn sie wird im Storefront des Händlers gesehen.

Das Gesetz nimmt Fälle aus, in denen aus Sicht einer angemessen informierten Person offensichtlich ist, dass sie mit einem KI-System interagiert. Eine Funktion, die als KI-Assistent bezeichnet und mit einem Roboter-Icon präsentiert wird, kann dies erfüllen. Ein Chatfenster mit dem Namen einer menschlich klingenden Stylistin, ein Live-Chat-Widget mit Avatar-Foto oder ein Sprachagent an einer Kundenhotline macht es nicht offensichtlich. Der vernünftige Ansatz für den Modehandel ist, standardmässig offenzulegen und sich nicht auf die Ausnahme zu verlassen, denn der Test wird aus Sicht der Kundschaft beurteilt und ist keine geklärte Frage.

Lesen Sie auch

KI in der Mode: der Rückblick auf September 2026

Welche Formulierung eignet sich für eine KI-Offenlegung?

Das Gesetz schreibt keinen Wortlaut vor. Gute Formulierungen sind kurz, konkret und stellen den Maschinenstatus vor jede andere Aussage. Strukturbeispiele, die an die Markensprache anzupassen und von der Rechtsberatung zu prüfen sind:

• «Sie chatten mit einem KI-Assistenten, nicht mit einer Person. Fragen Sie jederzeit nach einer Mitarbeiterin oder einem Mitarbeiter.»
• «Dies ist ein automatisierter Assistent. Er hilft bei Grössen, Bestellungen und Retouren. Für alles andere verbinden wir Sie mit unserem Team.»
• Für Sprache: «Hier ist der automatisierte Assistent von [Marke]. Sagen Sie ‹Mitarbeiter›, um mit einer Person zu sprechen.»

Vermeiden Sie menschliche Namen ohne KI-Kennzeichnung, Fotografien von Personen als Avatare, Formulierungen wie «unsere Stylistin Anna» ohne Einschränkung und Tipp-Animationen, die einen menschlichen Bediener nachahmen sollen. Solche Entscheide laufen dem Zweck von Artikel 50 Absatz 1 zuwider, auch wenn irgendwo auf der Seite ein Label existiert.

Wo sollte die Offenlegung platziert werden?

Die Zeitregel ist der Anker: spätestens bei der ersten Interaktion. Das führt zu drei kombinierbaren Platzierungen: einem dauerhaften Label auf dem Chat-Launcher oder im Kopf des Chatfensters, der Eröffnungsnachricht jeder neuen Sitzung und, bei Sprache, dem ersten gesprochenen Satz. Ein Banner im Stil eines Cookie-Hinweises, ein Link in der Fusszeile oder eine Klausel im Text der Datenschutzerklärung erfüllt den Massstab «klar und erkennbar» für sich allein nicht. Auch die Barrierefreiheit zählt, das Label sollte daher für Screenreader verfügbar, in kleinen Grössen lesbar und in der Sprache des Gesprächs angeboten werden.

Worin unterscheidet sich das von der Kennzeichnung KI-generierter Bilder und Texte?

Die Chatbot-Offenlegung nach Artikel 50 Absatz 1 betrifft die Interaktion. Die Kennzeichnung erzeugter Inhalte wird an anderer Stelle desselben Artikels geregelt. Anbieter von Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen die Ausgaben in maschinenlesbarem Format kennzeichnen. Betreiber, die Deepfakes veröffentlichen, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden, mit leichterer Offenlegung bei erkennbar künstlerischen, kreativen, satirischen oder fiktionalen Werken. Ein Händler, der virtuelle Models in Kampagnen einsetzt, steht deshalb zusätzlich zur Chatbot-Kennzeichnung vor einer zweiten Frage.

Die Kommission hat einen freiwilligen Verhaltenskodex zur Transparenz KI-generierter Inhalte veröffentlicht, der Anbietern und Betreibern helfen soll, Artikel 50 Absätze 2, 4 und 5 zu erfüllen. Er ist nicht verbindlich, doch die Kommission und das KI-Gremium haben bestätigt, dass er ein angemessener freiwilliger Weg zum Nachweis der Konformität ist, und die EU hat ein Set von Icons geschaffen, mit denen Betreiber KI-generierte Inhalte kennzeichnen können. Die berichtete Zahl der Unterzeichner lag Ende Juli 2026 bei rund 190 Organisationen.

Lesen Sie auch

Was ist Agentic Commerce? Wie KI-Agenten für Modekundinnen und -kunden einkaufen werden

Wie kann ein Team testen, dass die Offenlegung funktioniert?

Eine kurze Testroutine deckt die meisten Lücken auf:

1. Den Storefront als Erstbesucher auf dem Smartphone und auf dem Desktop öffnen und prüfen, dass das Label erscheint, bevor man tippt.
2. Den Chat über jeden Einstiegspunkt starten: Produktseite, Seite zum Bestellstatus, Messaging-App und Sprachlinie.
3. Die erste Antwort wie eine Kundin lesen und bestätigen, dass sie angibt, dass der Assistent automatisiert ist.
4. Den Assistenten direkt fragen, ob er ein Mensch ist, und prüfen, dass er wahrheitsgemäss antwortet.
5. Bestätigen, dass ein Weg zu einem Menschen existiert und während der angegebenen Öffnungszeiten funktioniert.
6. Screenshots und die Version des Wortlauts mit Datum in einem Protokoll aufbewahren.

Wenn Shopping-Agenten beginnen, im Auftrag von Kundinnen und Kunden Systeme von Händlern zu kontaktieren, entstehen zwei Situationen. Ihre eigenen Assistenten, die mit Kundschaft sprechen, müssen offenlegen. Agenten von Dritten, die Ihre Dienste aufrufen, liegen in den meisten Fällen in der Verantwortung ihres Anbieters und Betreibers. Für Modeunternehmen ist ein praktischer Schritt, automatisierten Traffic zu protokollieren, in den eigenen Oberflächen klar anzugeben, wenn Antworten maschinell erzeugt sind, und für Bestellungen, Retouren und Beschwerden die Eskalation an einen Menschen bereitzuhalten.