Warum vergisst unser Chatbot den Zusammenhang bei Folgefragen?

Das Problem

Frau Müller fragt den internen Chatbot: «Wie viele Ferientage habe ich?» Die Antwort stimmt. Dann fragt sie: «Und wie ist das bei Teilzeit?» Der Chatbot antwortet mit einer allgemeinen Erklärung zu Teilzeitarbeit, ohne zu merken, dass es um Ferien geht.

Für Menschen ist die zweite Frage klar. Das System sieht jedoch nur den Satz «Und wie ist das bei Teilzeit?» und sucht dazu Unterlagen. Es findet alles Mögliche zu Teilzeit, nur nicht den Ferienanspruch.

Das ist kein Defekt der KI an sich, sondern eine Frage der Einrichtung. Wer den Chatbot ständig mit denselben Angaben füttern muss, verliert die Lust. Mit ein paar gezielten Einstellungen lässt sich das deutlich verbessern.

So lösen Sie es mit KI – Schritt für Schritt

1. Verstehen Sie die Ursache. Ein Sprachmodell merkt sich nichts von selbst. Es kennt nur den Text, den es bei der aktuellen Anfrage erhält. «Gedächtnis» bedeutet: Das System schickt den bisherigen Verlauf jedes Mal mit.
2. Prüfen Sie, ob der Verlauf mitgesendet wird. Fragen Sie beim Anbieter oder Ihrer IT: «Wie viele frühere Nachrichten werden pro Anfrage mitgegeben?» Bei null sind Folgefragen unmöglich.
3. Lassen Sie Anschlussfragen umschreiben. Bevor das System in Ihren Dokumenten sucht, wird aus «Und bei Teilzeit?» eine vollständige Frage: «Wie viele Ferientage habe ich bei Teilzeitarbeit?» Erst diese wird für die Suche verwendet.
4. Begrenzen Sie den Verlauf. Zu viel Verlauf kostet Geld, verlangsamt die Antwort und kann verwirren. Meist genügen die letzten sechs bis zehn Nachrichten, ältere werden zusammengefasst.
5. Behalten Sie Eckdaten fest. Angaben wie «Mitarbeiterin im Verkauf, Pensum 60 %» können in einem festen Kasten stehen, der bei jeder Antwort mitgeht.
6. Bieten Sie «Neues Thema» an. Ein Knopf zum Zurücksetzen verhindert, dass alte Angaben neue Fragen verfälschen.
7. Testen Sie Gesprächsketten. Prüfen Sie Abfolgen mit drei bis fünf Fragen, bei denen jede auf der vorherigen aufbaut.
8. Messen Sie nach dem Start. Notieren Sie, bei welchen Folgefragen der Zusammenhang verloren ging, und passen Sie die Regel an.

Vorlage zum Kopieren

Mit diesem Auftrag lassen Sie die KI eine Anschlussfrage zu einer eigenständigen Suchfrage machen. Er gehört in den Schritt vor der Dokumentensuche.

Du bekommst den bisherigen Gesprächsverlauf und eine neue Nachricht.
Schreibe die neue Nachricht so um, dass sie ohne den Verlauf verständlich ist.

Regeln:
- Ergänze fehlende Bezüge aus dem Verlauf (Thema, Produkt, Person, Zeitraum).
- Ändere nichts am Sinn und füge keine neuen Annahmen hinzu.
- Ist die neue Nachricht schon eigenständig, gib sie unverändert zurück.
- Ist unklar, worauf sich die Nachricht bezieht, gib «RÜCKFRAGE: [kurze Frage]» zurück.
- Antworte nur mit der umgeschriebenen Frage.

Verlauf:
[letzte Nachrichten]

Neue Nachricht:
[Frage der Mitarbeiterin]

Passen Sie die Zahl der mitgegebenen Nachrichten an Ihre Gespräche an. Kurze Fragen brauchen meist wenig Verlauf.

Worauf Sie achten müssen

• Datenschutz: Der gesendete Verlauf kann Personendaten enthalten. Klären Sie, wo er gespeichert wird und wie lange, siehe Speicherdauer von Chatverläufen.
• Falsche Bezüge: Die Umschreibung kann sich irren und der Frage einen falschen Sinn geben. Testen Sie mit mehrdeutigen Beispielen.
• Grenzen des Platzes: Verlauf und Dokumentausschnitte müssen zusammen in das Kontextfenster passen, siehe Kontextfenster einfach erklärt.
• Kein Lernen: Ein Chatbot, der sich im Gespräch «merkt», hat deshalb nichts dauerhaft gelernt. Mehr dazu unter Lernt der Chatbot aus Gesprächen.
• Sitzungsende: Nach einer Pause oder dem Schliessen des Fensters ist der Verlauf meist weg. Das sollten Nutzende wissen.

Ein Beispiel aus der Praxis

Ein Beispiel: Eine Gemeinde im Kanton Aargau stellt für ihre Mitarbeitenden einen Chatbot zum Personalreglement bereit. Die Mitarbeiterin fragt: «Wie lange gilt der Kündigungsschutz bei Krankheit?» und anschliessend «Und bei einer Teilzeitstelle?»

Vorher lieferte der Chatbot zur zweiten Frage allgemeine Informationen über Teilzeitstellen. Nachher schreibt das System die Frage vor der Suche um: «Wie lange gilt der Kündigungsschutz bei Krankheit bei einer Teilzeitstelle?» Der Chatbot findet nun den passenden Abschnitt und nennt die Quelle. Die Mitarbeiterin prüft die Stelle im Reglement, bevor sie handelt.

So hilft Ihnen Alpasana

Ob Folgefragen gut funktionieren, hängt davon ab, wie die einzelnen Teile des Chatbots zusammenspielen. Die KI-Beratung und digitale Transformation von Alpasana hilft dabei, KI-Agenten und Assistenten in Ihren Betrieb zu integrieren: vom Anwendungsfall über einen Pilot bis zu Einsatzregeln.

Sie testen mit Ihren eigenen Gesprächsbeispielen und legen fest, wie viel Verlauf gespeichert werden darf. Projekte werden individuell offeriert.

Häufige Fragen

Merkt sich der Chatbot unsere Gespräche für das nächste Mal?

Normalerweise nicht. Jedes neue Gespräch beginnt leer, ausser das System speichert Verläufe ausdrücklich. Dann stellen sich Fragen zu Datenschutz und Löschung.

Hilft ein stärkeres Sprachmodell gegen das Vergessen?

Teilweise. Ein besseres Modell versteht Zusammenhänge besser, aber wenn das System den Verlauf nicht mitsendet, kann auch das beste Modell nichts wissen.

Warum antwortet der Chatbot nach vielen Fragen schlechter?

Ein langer Verlauf füllt den verfügbaren Platz, und frühere Angaben können untergehen. Fassen Sie ältere Teile zusammen oder starten Sie ein neues Gespräch.

Können Mitarbeitende das Thema selbst festhalten?

Ja, mit einem festen Feld für Eckdaten oder einem Knopf «Neues Thema». Beides ist einfach umzusetzen und erspart Wiederholungen.