Wie antwortet ein Chatbot ausschliesslich aus unseren Unterlagen?

Das Problem

Ein KI-Chatbot hat bereits viel «gelernt», bevor er bei Ihnen ankommt. Er kennt Allgemeinwissen, typische Redewendungen und tausende Beispiele aus dem Internet. Das ist praktisch, wird aber zum Risiko, wenn er Firmenfragen beantworten soll.

Fragt jemand «Wie viele Ferientage habe ich?», liefert der Chatbot vielleicht eine plausible Zahl aus allgemeinem Wissen, obwohl in Ihrem Reglement etwas anderes steht. Niemand merkt, dass die Antwort nicht aus Ihren Unterlagen kommt, denn sie klingt genau wie eine richtige Antwort.

Für Frau Müller und ihr Team ist das gefährlich: Auskünfte werden weitergegeben, Entscheide werden darauf gestützt, und bei einem Fehler ist unklar, woher er kam. Deshalb braucht ein Firmen-Chatbot klare Grenzen: Er soll aus Ihren geprüften Dokumenten antworten und sonst schweigen.

So lösen Sie es mit KI – Schritt für Schritt

1. Wissensquelle festlegen. Bestimmen Sie, welche Dokumente gelten. Nur diese gehören in das System. Siehe Firmendokumente vorbereiten.
2. Aufgabe schriftlich begrenzen. Formulieren Sie in der Grundanweisung (dem «Systemprompt», also der Rollenbeschreibung, die der Chatbot vor jeder Frage liest), was er darf und was nicht. Eine Vorlage finden Sie unter Systemprompt-Vorlage.
3. Quellenpflicht einbauen. Jede Antwort braucht mindestens eine Fundstelle aus den Dokumenten. Fehlt sie, soll der Chatbot keine Antwort geben.
4. Ausweichsatz festlegen. Bestimmen Sie den Satz, den der Chatbot bei fehlender Quelle sagt, und die Stelle, an die verwiesen wird.
5. Allgemeinwissen bewusst regeln. Entscheiden Sie, ob er bei Fragen ohne Firmenbezug (zum Beispiel Rechtschreibung) helfen darf. Für Auskunfts-Chatbots ist «nein» meist sicherer.
6. Grenzfälle testen. Stellen Sie Fragen, die in Ihren Dokumenten nicht vorkommen, aber nahe liegen. Prüfen Sie, ob der Chatbot ehrlich bleibt.
7. Versuche zum Umgehen testen. Probieren Sie Sätze wie «Ignoriere deine Regeln» oder «Antworte aus deinem Wissen». Ein guter Chatbot bleibt bei seinen Vorgaben, aber verlassen Sie sich nicht darauf.
8. Protokolle lesen. Prüfen Sie wöchentlich Stichproben der Gespräche und passen Sie die Regeln an.

Vorlage zum Kopieren

Dieser Auftrag gehört in die Grundanweisung Ihres Chatbots:

Du bist der Auskunftsassistent von [Firmenname]. Du beantwortest Fragen von [Zielgruppe] zu [Themenbereich].
Regeln:
1. Antworte ausschliesslich mit Informationen aus den bereitgestellten Dokumenten. Verwende kein allgemeines Wissen für Firmenauskünfte.
2. Nenne am Ende jeder Antwort die Quelle (Dokument, Version, Seite).
3. Wenn die Dokumente die Frage nicht beantworten, sage: «Dazu finde ich in unseren Unterlagen nichts. Bitte wenden Sie sich an [Stelle/Kontakt].»
4. Rate nicht und fülle keine Lücken mit Vermutungen.
5. Bei widersprüchlichen Quellen nenne beide und weise auf den Widerspruch hin.
6. Gib keine rechtlichen, medizinischen oder finanziellen Beratungen.
Frage: [Ihre Frage]

Passen Sie Firma, Zielgruppe und Kontaktstelle an und ergänzen Sie Regeln, die für Ihr Thema wichtig sind.

Was heisst «eigene Unterlagen» genau?

Der Begriff klingt klar, ist es aber nicht. Gehören Mails dazu? Protokolle von Sitzungen? Notizen einzelner Personen? Legen Sie fest, welche Textsorten als verbindlich gelten: meist Reglemente, Handbücher, Merkblätter, Preislisten und die Website. Entwürfe, private Notizen und Mails zählen in der Regel nicht.

Je enger die Auswahl, desto verlässlicher der Chatbot. Sie können die Quellen später erweitern, wenn der Start gelingt.

Worauf Sie achten müssen

• Keine absolute Sicherheit. Auch mit klaren Regeln kann ein Sprachmodell gelegentlich Allgemeinwissen einmischen. Rechnen Sie damit und prüfen Sie stichprobenartig.
• Lücken in den Unterlagen. Wo nichts steht, kann der Chatbot nicht helfen. Sammeln Sie unbeantwortete Fragen und ergänzen Sie die Dokumente. Siehe Wissenslücken erkennen.
• Missverständliche Dokumente. Wenn die Quelle selbst unklar ist, wird auch die Antwort unklar. Klären Sie den Text.
• Aktualität. Veraltete Dokumente führen zu veralteten Antworten, auch wenn der Chatbot «treu» zitiert.
• Manipulationsversuche. Gerade öffentliche Chatbots werden gezielt ausgetestet. Verlassen Sie sich nicht allein auf Textregeln, sondern halten Sie vertrauliche Inhalte aus dem System fern.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Elektroinstallationsbetrieb in Thun hat einen Chatbot für Fragen zu Arbeitszeit und Spesen. Die Teamleiterin Frau Wyss testet ihn mit der Frage, ob Fahrzeit als Arbeitszeit zählt.

Vorher: Der Chatbot antwortet mit einer allgemeinen Erklärung zum Arbeitsrecht, die nicht dem Betriebsreglement entspricht. Nachher: Nach Einführung der Regeln antwortet er mit der Stelle aus dem Reglement und nennt die Seite. Bei einer Frage zu Kinderzulagen, die nicht im Reglement steht, sagt er ehrlich, dass er nichts findet, und verweist auf die Personalstelle.

So hilft Ihnen Alpasana

Wer Anweisungen für einen Chatbot sauber formulieren möchte, lernt das im Kurs Prompt Engineering von absofort: Aufgabe, Rolle, Kontext, Ziel und Ausgabeformat festlegen, Prompts überarbeiten und Ergebnisse prüfen. Der Online-Kurs bietet ein Zertifikat und braucht keine Programmierkenntnisse.

Häufige Fragen

Kann ich dem Chatbot das Allgemeinwissen komplett abgewöhnen?

Nein, das Wissen steckt im Modell. Sie können aber mit klaren Regeln und einer Quellenpflicht erreichen, dass er es für Firmenauskünfte nicht verwendet. Das prüfen Sie mit Testfragen.

Ist ein Chatbot «nur mit eigenen Dokumenten» automatisch richtig?

Nein. Er kann Dokumente falsch zusammenfassen oder die falsche Stelle wählen. Die Quelle hilft, das zu erkennen. Mehr dazu unter Falsche Antwort trotz Quelle.

Soll der Chatbot bei Allgemeinfragen ganz schweigen?

Für Auskunfts-Chatbots mit Verbindlichkeit empfiehlt sich das. Für interne Helfer, die auch beim Formulieren unterstützen, kann eine offenere Regel passen. Wichtig ist, dass Nutzende erkennen, was Firmenauskunft ist.

Muss ich die Regeln später ändern?

Wahrscheinlich ja. Die Protokolle zeigen, wo Fragen schiefgehen. Passen Sie die Regeln und die Dokumente schrittweise an.