Wer haftet für falsche KI-Auskünfte an Kunden?

Das Problem

Ein Velohändler setzt auf seiner Website einen KI-Chatbot ein. Eine Kundin fragt, ob ihr E-Bike-Akku noch unter Garantie steht. Der Bot antwortet freundlich: «Ja, die Garantie gilt fünf Jahre.» Tatsächlich sind es zwei. Die Kundin verlässt sich darauf und ist später verärgert, als die Reparatur in Rechnung gestellt wird.

Wer trägt die Verantwortung? Aus Sicht der Kundin hat der Betrieb geantwortet. Ob daraus ein Anspruch gegen den Betrieb entsteht, hängt im Einzelfall unter anderem vom Vertrag, der Zurechnung der Auskunft und einem allfälligen Schaden ab. Der Einsatz eines KI-Assistenten klärt die Haftungsfrage nicht von selbst.

Hinzu kommt: KI-Modelle können Antworten erfinden, die plausibel klingen. Man nennt das Halluzination. Im Kundenkontakt kann das zu falschen Zusagen über Preise, Fristen, Garantien oder Produkteigenschaften führen. Je nach Fall entstehen daraus Kosten, Streit oder ein Imageschaden.

So lösen Sie es mit KI – Schritt für Schritt

1. Legen Sie fest, wozu der Assistent antworten darf. Beschränken Sie ihn auf allgemeine Informationen wie Öffnungszeiten, Lieferwege oder einfache Produktfragen. Verbindliche Aussagen zu Preisen, Garantien, Rückerstattungen oder Rechtsfragen sollten an einen Menschen weitergehen.

1. Geben Sie geprüftes Wissen vor. Ein Assistent soll sich auf Ihre aktuellen Unterlagen stützen, etwa Preislisten, Garantiebedingungen und häufige Fragen. Halten Sie diese Quellen aktuell und bestimmen Sie, wer sie pflegt.

1. Formulieren Sie klare Anweisungen. In den Grundeinstellungen des Assistenten steht, was er tun und lassen soll. Nutzen Sie die Vorlage unten als Ausgangspunkt, und lassen Sie die Einstellungen von der verantwortlichen Person freigeben.

1. Kennzeichnen Sie den Assistenten. Kundinnen sollen erkennen, dass sie mit einer KI schreiben, und wissen, wie sie einen Menschen erreichen. Die Seite Chatbot verständlich kennzeichnen hilft bei der Formulierung.

1. Testen Sie vor dem Start mit schwierigen Fragen. Stellen Sie gezielt heikle Fragen: nach Rabatten, Garantieverlängerungen, Rückgaben ausserhalb der Frist. Notieren Sie falsche Antworten und passen Sie Einstellungen oder Wissensquellen an.

1. Kontrollieren Sie laufend Stichproben. Lesen Sie regelmässig eine Auswahl von Gesprächen. Achten Sie auf Antworten, die Zusagen enthalten. Legen Sie fest, wer das tut und wie oft.

1. Reagieren Sie rasch auf Fehler. Meldet eine Kundin eine falsche Auskunft, klären Sie den Fall persönlich. Sichern Sie das Gespräch als Beleg; die Seite Beweise bei KI-Fehlern sichern erklärt, wie.

Vorlage zum Kopieren

Diese Grundanweisung für einen Kundenservice-Assistenten setzt klare Grenzen:

Du bist der digitale Assistent von [Firmenname] in [Ort]. Du antwortest freundlich in Deutsch Schweiz und in der Sie-Form.
Du stützt dich ausschliesslich auf diese Unterlagen: [Liste der Wissensquellen].
Wenn eine Antwort nicht eindeutig in den Unterlagen steht, sagst du: «Das kann ich nicht verbindlich beantworten. Unser Team meldet sich bei Ihnen.» und bietest [Kontaktweg] an.
Du machst keine verbindlichen Zusagen zu: Preisen, Rabatten, Garantien, Rückerstattungen, Lieferterminen, rechtlichen Fragen.
Du erfindest keine Produkteigenschaften, Fristen oder Bedingungen.
Du weist zu Beginn darauf hin, dass du ein KI-Assistent bist.

Ersetzen Sie die Klammern durch Ihre tatsächlichen Quellen und Kontaktwege; testen Sie die Wirkung danach mit kritischen Fragen.

Worauf Sie achten müssen

• Haftung im Einzelfall: Ob eine falsche KI-Auskunft dem Betrieb zuzurechnen ist und einen Anspruch auslöst, hängt unter anderem von Vertrag, Anspruchsgrundlage und Schaden ab. Lassen Sie konkrete Streitfälle prüfen.
• Haftungsausschluss nur begrenzt: Nach Art. 100 OR ist eine Wegbedingung der Haftung für rechtswidrige Absicht oder grobe Fahrlässigkeit nichtig. Ein Hinweis «KI-Antworten ohne Gewähr» schützt deshalb nur eingeschränkt.
• Irreführung: Falsche Angaben über Produkte oder Preise können auch lauterkeitsrechtlich heikel sein (UWG). Das gilt unabhängig davon, ob ein Mensch oder eine KI sie gemacht hat.
• Anbieter haftet meist nicht: Viele KI-Anbieter schliessen die Haftung für die Richtigkeit der Ergebnisse aus. Mehr unter Haftungsausschluss des KI-Anbieters.
• Versicherung prüfen: Ob Ihre Betriebshaftpflicht solche Schäden deckt, klären Sie mit der Versicherung.
• Einzelfall: Ob eine falsche Preisangabe bindend ist, ist eine eigene Frage; siehe Ist ein falsches Chatbot-Angebot verbindlich.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Reisebüro in Thun nutzt einen KI-Assistenten auf der Website. Er bestätigte einem Kunden, dass eine Annullation bis zwei Tage vor Abreise kostenlos sei. In den Bedingungen standen dreissig Tage. Der Kunde stornierte kurzfristig und bestand auf der Zusage.

Das Reisebüro einigte sich mit dem Kunden auf eine Kulanzlösung. Danach wurde der Assistent neu eingestellt: Fragen zu Annullationen beantwortet er nur noch mit einem Verweis auf die Bedingungen und dem Angebot eines Rückrufs. Eine Mitarbeiterin liest jeden Freitag zwanzig zufällig ausgewählte Gespräche.

So hilft Ihnen Alpasana

Wer einen KI-Assistenten im Kundenkontakt betreut, braucht ein klares Verständnis von Möglichkeiten und Grenzen. Die KI-Weiterbildung für Unternehmen von absofort vermittelt den Einsatz von KI in Kommunikation und Verwaltung und den verantwortungsvollen Umgang mit Unternehmensdaten, mit Schweizer Praxisbezug.

Mitarbeitende lernen online im eigenen Tempo und erhalten verifizierbare Abschlüsse; für Teams gibt es Firmenlösungen auf Anfrage. Die Frage, wer in einem konkreten Schadenfall haftet, beantwortet eine Fachperson für Haftpflichtrecht.

Häufige Fragen

Hilft ein Hinweis «Antworten ohne Gewähr» unter dem Chatbot?

Er kann Erwartungen dämpfen, schützt aber nicht vollständig. Für grobe Fahrlässigkeit kann die Haftung nicht ausgeschlossen werden. Wirksamer ist, den Assistenten gar nicht erst verbindliche Zusagen machen zu lassen.

Kann ich den KI-Anbieter in Regress nehmen?

Das hängt vom Vertrag ab. Viele Anbieter schliessen die Haftung für Ergebnisse weitgehend aus. Prüfen Sie die Bedingungen vor der Einführung.

Muss ich alle Gespräche des Assistenten speichern?

Eine allgemeine Pflicht dazu gibt es nicht, aber gespeicherte Gespräche helfen bei der Klärung von Streitfällen. Gleichzeitig enthalten sie Personendaten. Legen Sie eine angemessene Aufbewahrungsdauer fest.

Gilt das auch für E-Mails, die mit KI vorbereitet wurden?

Ja. Wer eine KI-formulierte E-Mail verschickt, ist für deren Inhalt verantwortlich. Die menschliche Kontrolle vor dem Versand ist deshalb zentral.