Wie lege ich Wissensgrenzen für einen KI-Assistenten fest?

Das Problem

Ihr Assistent beantwortet Kundenfragen zu Ihren Leistungen. Meistens klappt das gut. Doch dann fragt jemand nach einer Dienstleistung, die Sie nicht anbieten, und der Assistent antwortet trotzdem überzeugend: mit einem Preis, einer Frist oder einer Zusage, die es nicht gibt.

Das liegt an der Funktionsweise der KI. Sprachmodelle sind darauf ausgelegt, passende Antworten zu erzeugen, nicht zuzugeben, dass sie etwas nicht wissen. Wenn Sie nichts anderes vorgeben, füllen sie Lücken mit plausibel klingenden Angaben. Diese Neigung nennt man Halluzination.

Mit Wissensgrenzen in den Grundregeln lenken Sie das Verhalten. Sie legen fest, woher der Assistent sein Wissen nehmen darf, was er bei Lücken sagen soll und wann er einen Menschen einschaltet. Garantieren lässt sich das nicht, aber die Wirkung ist deutlich.

So lösen Sie es mit KI – Schritt für Schritt

1. Wissensquellen bestimmen: Legen Sie fest, worauf der Assistent sich stützen darf: Ihre Merkblätter, FAQ, Preisliste, Öffnungszeiten. Was nicht dazugehört, ist tabu.
2. Stand der Informationen angeben: Nennen Sie ein Datum, zum Beispiel «Stand der Unterlagen: 1. Oktober 2026». Das hilft, Veraltetes zu erkennen.
3. Umgang mit Lücken regeln: Formulieren Sie den Satz, den der Assistent verwenden soll: «Dazu habe ich keine Information. Bitte wenden Sie sich an [Kontakt].» Verbieten Sie Vermutungen.
4. Verbotene Themen festlegen: Nennen Sie Bereiche, in denen er keine Auskunft gibt, etwa Rechts-, Gesundheits- oder Steuerfragen, und wohin er verweist.
5. Quellenangabe verlangen: Lassen Sie ihn angeben, aus welchem Dokument eine Auskunft stammt. Das erleichtert die Kontrolle.
6. Rückfragen erlauben: Wenn die Frage unklar ist, soll er nachfragen, statt zu raten. Siehe Wie lege ich dauerhafte Regeln für Rückfragen fest?.
7. Mit Fangfragen testen: Stellen Sie Fragen, auf die es keine Antwort in den Unterlagen gibt, und prüfen Sie, ob der Assistent die Lücke zugibt. Siehe Wie prüfe ich, ob ein Systemprompt im Alltag funktioniert?.
8. Stichproben und Pflege: Kontrollieren Sie regelmässig Gespräche und halten Sie Unterlagen aktuell.

Vorlage zum Kopieren

Wissensgrenzen:
1. Beantworte Fragen nur anhand der bereitgestellten Unterlagen: [Liste der Dokumente]. Stand: [Datum].
2. Wenn die Unterlagen die Antwort nicht enthalten oder unklar sind, antworte genau so:
   «Dazu habe ich keine Information. Bitte wenden Sie sich an [Kontakt, z. B. unser Büro unter Telefonnummer].»
   Rate nicht und ergänze nichts aus allgemeinem Wissen.
3. Nenne bei jeder Auskunft das Dokument, aus dem sie stammt.
4. Gib keine Auskünfte zu [Themen, z. B. Recht, Gesundheit, Steuern]. Verweise auf [Stelle].
5. Nenne keine Preise, Fristen oder Zusagen, die nicht in den Unterlagen stehen.
6. Wenn die Frage unklar ist, stelle eine kurze Rückfrage, statt zu raten.

Ersetzen Sie die Angaben in den Klammern. Testen Sie die Regeln mit Fragen, auf die es keine Antwort gibt.

Wie wirken die Regeln?

Mehr dazu, wie sich die KI auf Ihre Texte beschränken lässt, lesen Sie unter Wie beschränke ich die KI auf meine bereitgestellten Texte?. Zum Umgang mit Lücken in den Angaben hilft Wie soll die KI mit Lücken in meinen Angaben umgehen?.

Worauf Sie achten müssen

• Datenschutz: Die bereitgestellten Unterlagen sollten keine Personendaten oder Geheimnisse enthalten, die der Assistent ausgeben könnte.
• Keine Garantie: Auch mit klaren Regeln kann ein Modell Falsches sagen. Prüfen Sie Gespräche stichprobenartig und halten Sie einen Weg zu einem Menschen offen.
• Unterlagen aktuell halten: Veraltete Merkblätter führen zu falschen Auskünften. Legen Sie fest, wer sie pflegt.
• Quellenangaben prüfen: Auch Quellenangaben können falsch sein. Kontrollieren Sie wichtige Auskünfte im Dokument.
• Zu strenge Regeln: Wenn der Assistent ständig «Ich weiss es nicht» sagt, sind die Unterlagen lückenhaft oder die Regeln zu eng. Passen Sie an.
• Verantwortung: Auskünfte gegenüber Kundschaft bleiben Sache des Betriebs.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Velohändler in St. Gallen setzt auf seiner Website einen Assistenten ein. Vorher beantwortet er die Frage nach einer Reparatur eines Motorrads, die der Betrieb gar nicht anbietet, mit einem Preis und einem Termin.

Nachher enthalten die Grundregeln den Satz «Dazu habe ich keine Information» sowie die Beschränkung auf Preisliste und Leistungsübersicht mit Datum. Bei einem Test mit zehn Fangfragen gibt der Assistent in neun Fällen die Lücke zu. In einem Fall nennt er trotzdem einen Preis, worauf der Händler die Regel verschärft und die Antworten weiter stichprobenartig kontrolliert.

So hilft Ihnen Alpasana

Wie man Aufgabe, Rolle, Kontext, Ziel und Ausgabeformat so festlegt, dass KI-Antworten innerhalb Ihrer Vorgaben bleiben, lernen Sie im Kurs Prompt Engineering von absofort. Beschrieben sind unter anderem das Überarbeiten und Prüfen von Prompts und der Umgang mit Datenschutz. Der Kurs läuft online mit Zertifikat, ohne Programmierkenntnisse.

Häufige Fragen

Kann ich Erfinden ganz verhindern?

Nein. Sie können es deutlich verringern, aber nicht ausschliessen. Prüfen Sie wichtige Auskünfte und lassen Sie einen Menschen einspringen.

Soll der Assistent allgemeines Wissen nutzen dürfen?

Das hängt vom Zweck. Für Kundenauskünfte zu Ihrem Betrieb ist es sicherer, ihn auf Ihre Unterlagen zu beschränken. Für Formulierungshilfen darf er mehr dürfen.

Wie erkenne ich, dass er sich nicht an die Regeln hält?

Durch Tests mit Fangfragen und Stichproben echter Gespräche. Notieren Sie Abweichungen und schärfen Sie die Regel nach.