Wie müssen wir einen Chatbot als KI kenntlich machen?

Das Problem

Auf der Website eines Gartencenters erscheint ein Fenster: «Hallo, ich bin Anna. Wie kann ich helfen?» Die Besucherin fragt nach Rosendünger, und «Anna» antwortet freundlich und schnell. Nur: Anna ist keine Mitarbeiterin, sondern ein KI-Programm. Merkt die Besucherin das nicht, fühlt sie sich später vielleicht getäuscht.

Ob ein Chatbot als KI kenntlich gemacht werden muss, ist eine rechtliche und eine Vertrauensfrage. Rechtlich enthält der EU AI Act eine Transparenzpflicht: Systeme, die direkt mit Menschen interagieren, müssen so gestaltet sein, dass die Personen erkennen, dass sie mit einer KI zu tun haben, ausser dies ergibt sich aus den Umständen. Wer Kundschaft in der EU anspricht, sollte das beachten. Für Schweizer Betriebe ohne EU-Bezug gibt es nach gängiger Auffassung keine gleich lautende allgemeine Pflicht. Täuschende Auftritte können aber unter das Lauterkeitsrecht fallen.

Unabhängig vom Recht ist ein offener Hinweis klug. Menschen akzeptieren einen Chatbot eher, wenn sie wissen, was er ist und was er kann. Und sie haben dann auch die richtigen Erwartungen.

So lösen Sie es mit KI – Schritt für Schritt

1. Geltungsbereich prüfen. Richtet sich der Chatbot an Personen in der EU oder werden dort Dienste angeboten? Dann prüfen Sie die Transparenzpflicht. Bei Unsicherheit holen Sie fachlichen Rat ein. Mehr: Artikel 50 einfach erklärt.

1. Hinweistext formulieren. Kurz, klar, verständlich: «Sie chatten mit einem KI-Assistenten. Er kann Fehler machen.» Vermeiden Sie Fachbegriffe wie «LLM».

1. Platzierung festlegen. Der Hinweis erscheint am Anfang des Gesprächs, bevor die erste Frage gestellt wird. Ein Hinweis, der nur in den Nutzungsbedingungen steht, genügt nicht.

1. Name und Auftritt anpassen. Verzichten Sie auf einen Menschennamen mit Foto, der eine reale Person vortäuscht. Ein Name ist erlaubt, wenn der Hinweis klar bleibt.

1. Weg zum Menschen anbieten. Sagen Sie, wie man eine Mitarbeiterin erreicht, und lassen Sie die Übergabe wirklich funktionieren. Siehe Chatbot an Mitarbeitende übergeben.

1. Grenzen nennen. Weisen Sie darauf hin, wofür der Chatbot gedacht ist, und dass er keine verbindlichen Zusagen, Rechts- oder Gesundheitsberatung gibt.

1. Datenschutzhinweis ergänzen. Erklären Sie kurz, dass keine sensiblen Angaben eingegeben werden sollen, und verlinken Sie die Datenschutzerklärung.

1. Mit Testpersonen prüfen. Lassen Sie drei Personen den Chatbot ansehen und fragen Sie: «Mit wem haben Sie gesprochen?» Wenn jemand unsicher antwortet, schärfen Sie den Hinweis.

Vorlage zum Kopieren

Mit diesem Prompt lassen Sie Varianten für Begrüssung und Hinweis entwerfen.

Du schreibst Texte für einen Website-Chatbot eines Schweizer KMU ([Branche, z. B. Gartencenter]). Entwirf drei Varianten für die erste Chatnachricht.

Zweck des Chatbots: [z. B. Fragen zu Öffnungszeiten, Sortiment und Pflege beantworten]
Was er NICHT kann: [z. B. keine Preise zusagen, keine Bestellungen auslösen, keine Beratung für Pflanzenschutzmittel]
Weg zu einem Menschen: [z. B. Telefon 062 000 00 00 oder Formular unter /kontakt]
Ton: freundlich, klar, Sie-Anrede, einfache Sprache

Jede Variante soll enthalten:
1. Den deutlichen Hinweis, dass es sich um einen KI-Assistenten handelt
2. Einen Satz zu Zweck und Grenzen
3. Den Weg zu einem Menschen
4. Eine Bitte, keine sensiblen persönlichen Angaben einzugeben
Höchstens 60 Wörter pro Variante. Keinen Menschennamen verwenden, der eine reale Person vortäuscht.

Wählen Sie eine Variante, testen Sie sie und passen Sie sie an Ihre Kundschaft an.

Worauf Sie achten müssen

• Recht im Fluss: Der EU AI Act sieht gestaffelte Anwendungszeitpunkte vor, und es gibt Änderungsvorhaben. Prüfen Sie den aktuellen Stand in der Quelle oder bei Fachleuten. Auch für Schweizer Betriebe kann der Act relevant sein, wenn EU-Kundschaft betroffen ist.
• Täuschung vermeiden: Ein Chatbot, der sich als Mensch ausgibt, riskiert Vertrauen und kann unlauter sein. Das UWG verbietet täuschende Angaben.
• Verständlichkeit: Ein Hinweis in Fachsprache oder in kleiner Schrift erfüllt den Zweck nicht. Prüfen Sie ihn mit Laien.
• Sprachen: Wenn der Chatbot mehrsprachig antwortet, braucht der Hinweis alle Sprachen.
• Sprachassistenten und Telefon: Auch bei Sprachsystemen sollte zu Beginn klar sein, dass eine KI spricht.
• Zusagen: Auch mit Hinweis können Aussagen des Chatbots Kundinnen beeinflussen. Legen Sie fest, was er nicht zusagen darf, siehe Verbindliche Zusagen vermeiden.
• Texte aus KI prüfen: Die Hinweistexte der KI sind Vorschläge. Prüfen Sie sie sprachlich und inhaltlich.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Gartencenter in der Nähe von Lenzburg setzt einen Chatbot ein, den der Anbieter «Anna» getauft hat, mit dem Foto einer lächelnden Frau. Die Inhaberin hört von einer Kundin: «Ich dachte, ich schreibe mit einer Mitarbeiterin, bis sie nach der Lieferzeit gefragt hat und die Antwort komisch war.»

Die Inhaberin ändert den Auftritt: Das Foto verschwindet, der Name wird «Assistent des Gartencenters». Die erste Nachricht lautet: «Guten Tag, ich bin ein KI-Assistent und beantworte Fragen zu Öffnungszeiten, Sortiment und Pflege. Ich kann Fehler machen und gebe keine verbindlichen Zusagen. Für alles Weitere erreichen Sie uns unter 062 000 00 00. Bitte geben Sie hier keine persönlichen Angaben ein.» Drei Kundinnen, die sie testen lässt, wissen danach genau, mit wem sie sprechen.

So hilft Ihnen Alpasana

Wenn mehrere Personen im Betrieb mit KI-Antworten für Kundinnen und Kunden zu tun haben, braucht es gemeinsames Wissen. Die KI-Weiterbildung für Unternehmen von absofort behandelt nach Angebotsbeschreibung KI für Kommunikation und Texte, Schweizer Praxisbezug, Datenschutz sowie den EU AI Act bei EU-Bezug. Für Firmenlösungen und Teambuchungen gibt es eine Kontaktmöglichkeit.

Rechtsberatung zu Ihrem Chatbot gehört nicht dazu. Dafür ziehen Sie Fachleute bei.

Häufige Fragen

Muss ich auch einen internen Chatbot kennzeichnen?

Für interne Chatbots gelten die Anforderungen je nach Fall anders. Auch intern ist ein Hinweis sinnvoll, damit Mitarbeitende die Antworten richtig einschätzen. Rechtliche Pflichten klären Sie im Einzelfall.

Reicht ein Symbol mit «KI»?

Ein Symbol allein kann unklar sein. Ein kurzer Satz im Klartext ist verständlicher. Kombinieren Sie beides, wenn Sie wollen.

Darf der Chatbot einen Namen und eine Persönlichkeit haben?

Ja, solange dadurch nicht vorgetäuscht wird, es sei ein Mensch. Ein Name ist Gestaltung, der Hinweis auf die KI bleibt trotzdem nötig.