Wie bringt man einem Chatbot bei, Unwissen zuzugeben?

Das Problem

Menschen, die etwas nicht wissen, sagen es meistens. Ein KI-Chatbot tut das von sich aus nicht. Er ist darauf trainiert, flüssige, passende Antworten zu erzeugen. Wenn die Information fehlt, ergänzt er oft eine plausible Lösung. Fachleute nennen das «Halluzination»: Die KI erfindet etwas, das richtig klingt, aber nicht belegt ist.

Das ist für einen Firmen-Chatbot besonders heikel. Eine erfundene Öffnungszeit, ein falscher Preis oder ein nicht existierender Anspruch können echten Schaden anrichten. Gäste, Kundinnen oder Mitarbeitende verlassen sich darauf.

Das Ziel ist deshalb nicht ein Chatbot, der immer etwas sagt, sondern einer, der weiss, wann er schweigen muss. Das lässt sich mit klaren Regeln, einer guten Wissensbasis und konsequenten Tests deutlich verbessern, aber nie ganz ausschliessen.

So lösen Sie es mit KI – Schritt für Schritt

1. Erwartung festlegen. Entscheiden Sie: Bei fehlender Information soll der Chatbot nichts raten. Schreiben Sie das auf, damit alle im Projekt dasselbe wollen.
2. Ersatzsatz formulieren. Zum Beispiel: «Dazu habe ich keine gesicherte Information. Bitte wenden Sie sich an [Person/Stelle].» Der Satz soll freundlich sein und einen nächsten Schritt nennen.
3. Quellenpflicht einführen. Ohne Fundstelle keine Antwort. Das ist die wirksamste Bremse gegen Erfundenes. Siehe Quellenangaben einrichten.
4. Rückfragen erlauben. Wenn die Frage unklar ist, soll der Chatbot nachfragen, statt zu raten. Siehe Rückfragen stellen.
5. Testfragen ohne Antwort vorbereiten. Sammeln Sie 15 Fragen, die Ihre Unterlagen nicht beantworten, zum Beispiel nach einer Dienstleistung, die Sie gar nicht anbieten.
6. Ergebnis bewerten. Zählen Sie, wie oft der Chatbot ehrlich «nicht gefunden» sagt und wie oft er etwas erfindet. Notieren Sie die Fälle.
7. Regeln nachschärfen. Passen Sie die Anweisung an, wenn er trotzdem rät, und testen Sie erneut.
8. Unbeantwortete Fragen auswerten. Jede ehrliche Nichtantwort zeigt eine Lücke in Ihren Unterlagen. Ergänzen Sie sie. Siehe Wissenslücken erkennen.

Vorlage zum Kopieren

Diese Anweisung kann als Baustein in die Grundeinstellung Ihres Chatbots:

Wenn du eine Frage nicht sicher aus den bereitgestellten Dokumenten beantworten kannst:
1. Rate nicht und erfinde nichts.
2. Sage klar: «Dazu habe ich keine gesicherte Information in unseren Unterlagen.»
3. Wenn die Frage unklar formuliert ist, stelle EINE gezielte Rückfrage (z. B. «Meinen Sie [Variante A] oder [Variante B]?»).
4. Verweise sonst auf [Kontaktstelle, Telefon/E-Mail].
5. Biete an, die Frage an [Abteilung] weiterzugeben.
Unterscheide immer zwischen «steht in den Unterlagen» und «ist meine Vermutung». Vermutungen nur auf ausdrückliche Bitte und deutlich als Vermutung gekennzeichnet.

Tragen Sie Kontaktstelle und Abteilung ein und formulieren Sie den Ersatzsatz in dem Ton, der zu Ihrem Betrieb passt.

Wie klingt eine gute Nichtantwort?

Eine gute Nichtantwort ist kurz, freundlich und hilfreich. Sie nennt, was fehlt, und zeigt den nächsten Schritt: eine Telefonnummer, ein Formular oder die zuständige Person. Entschuldigungen in drei Sätzen braucht es nicht.

Vermeiden Sie Formulierungen, die nach Versagen klingen. «Dazu habe ich keine gesicherte Information, aber unser Team hilft Ihnen gern weiter» wirkt professioneller als eine Fehlermeldung und lässt Gäste oder Mitarbeitende nicht im Leeren stehen.

Worauf Sie achten müssen

• Nicht übertreiben. Ein Chatbot, der ständig «weiss ich nicht» sagt, ist nutzlos. Prüfen Sie auch, ob er bekannte Fragen korrekt beantwortet.
• Fehlalarme in beide Richtungen. Manchmal verweigert er trotz vorhandener Information (Suchproblem), manchmal erfindet er trotz Regel. Beides gehört ins Fehlerprotokoll.
• Gutgläubigkeit der Nutzenden. Menschen glauben flüssigen Antworten. Machen Sie in der Einführung klar, dass der Chatbot irren kann.
• Keine Garantie. Kein Regelwerk verhindert Halluzinationen vollständig. Bei wichtigen Entscheidungen prüft immer ein Mensch.
• Haftung und Aussenwirkung. Öffentliche Aussagen des Chatbots werden dem Betrieb zugerechnet. Siehe Verbindliche Zusagen vermeiden.

Ein Beispiel aus der Praxis

Ein Beispiel: Eine Zahnarztpraxis in Burgdorf nutzt einen Chatbot für Fragen zu Terminabsagen und Anreise. Die Praxismanagerin Frau Zbinden stellt zur Probe die Frage nach den Kosten einer Weisheitszahn-Operation.

Vorher: Der Chatbot nennt einen Frankenbetrag, der in keiner Unterlage steht. Nachher: Mit der neuen Regel sagt er, dass er keine gesicherte Information zu Behandlungskosten hat, und verweist auf die Praxis-Telefonnummer. Frau Zbinden nimmt die Frage in die Liste häufiger Anliegen auf und verfasst einen Text, der erklärt, wie die Kosten besprochen werden.

So hilft Ihnen Alpasana

Wie man Anweisungen so formuliert, dass eine KI ehrlich und prüfbar antwortet, vermittelt der Kurs Prompt Engineering von absofort: Aufgabe, Rolle, Kontext und Ausgabeformat festlegen, Prompts überarbeiten und Ergebnisse prüfen, mit Berücksichtigung des Datenschutzes.

Häufige Fragen

Warum erfindet ein Chatbot überhaupt Antworten?

Weil er Texte nach Wahrscheinlichkeit zusammensetzt und nicht nachschlägt wie in einem Lexikon. Fehlt eine Information, erzeugt er trotzdem Text, der passend klingt. Quellenpflicht und klare Regeln verringern das, beseitigen es aber nicht.

Reicht ein Satz im Systemprompt?

Oft nicht allein. Wirksam ist das Zusammenspiel von Regel, Quellenpflicht, guter Dokumentenbasis und Tests. Prüfen Sie nach jeder Änderung erneut.

Wie viele Testfragen sind nötig?

Für einen Pilot genügen oft 15 bis 30 gezielte Fragen. Wichtig ist, dass Sie auch Fragen ohne Antwort und Grenzfälle einbeziehen und später Fragen aus echten Gesprächen ergänzen.

Was tun, wenn der Chatbot trotz Regel rät?

Notieren Sie die Frage, verschärfen Sie die Anweisung und prüfen Sie, ob in den Dokumenten ein ähnlicher, aber nicht passender Text steht, der ihn verleitet. Hilft das nicht, klären Sie mit dem Anbieter, ob weitere Einstellungen möglich sind.