Warum antwortet der Chatbot falsch, obwohl die Quelle stimmt?

Das Problem

Sie öffnen die Quelle, die der Chatbot nennt, und lesen dort etwas anderes als in seiner Antwort. Die Seite stimmt, das Dokument stimmt, und trotzdem ist die Zusammenfassung falsch: eine Frist, die nicht im Text steht, eine Bedingung, die verschwunden ist, oder zwei Regeln, die vermischt wurden.

Das ist verwirrend, denn eine Quellenangabe vermittelt Sicherheit. Doch sie sagt nur, woher der Chatbot ein Stück Text genommen hat, nicht, ob er es richtig verstanden hat. Die Antwort entsteht in einem zweiten Schritt, in dem ein Sprachmodell den gefundenen Text in eigene Worte fasst. Dabei können Fehler passieren.

Die gute Nachricht: Solche Fehler haben meist erkennbare Ursachen. Wer sie systematisch eingrenzt, kann sie oft beheben oder zumindest erheblich verringern.

So lösen Sie es mit KI – Schritt für Schritt

1. Fall festhalten. Notieren Sie Frage, Antwort, genannte Quelle, Datum und was richtig gewesen wäre. Eine Vorlage bietet das Fehlerprotokoll.
2. Quelle im Original lesen. Öffnen Sie die Stelle und lesen Sie auch die Absätze davor und danach. Oft steht eine Ausnahme oder Bedingung direkt daneben.
3. Prüfen, was gefunden wurde. Viele Systeme zeigen die abgerufenen Textstücke an. Wenn nicht, bitten Sie den Anbieter darum. Fragen Sie: War das richtige Stück dabei?
4. Ursache einordnen. Mögliche Ursachen sind: das Stück war zu klein und riss die Ausnahme ab, das Stück war nicht das beste, zwei Stücke widersprechen sich, oder das Modell hat den Text falsch gelesen.
5. Dokument verbessern. Schreiben Sie unklare Stellen um, nennen Sie Ausnahmen im selben Abschnitt und entfernen Sie Widersprüche. Siehe Chunking einfach erklärt.
6. Anweisung nachschärfen. Verlangen Sie, dass der Chatbot Bedingungen und Ausnahmen mitnennt und wörtlich zitiert, wenn es auf den genauen Wortlaut ankommt.
7. Erneut testen. Stellen Sie dieselbe Frage mehrmals und mit anderen Worten. Beobachten Sie, ob die Antwort stabil bleibt.
8. Muster sammeln. Wenn derselbe Fehlertyp wiederkehrt, liegt die Ursache im System und nicht im Einzelfall. Siehe Quellentreue prüfen.

Vorlage zum Kopieren

Mit diesem Prompt lassen Sie die Antwort gegen die Quelle prüfen. Verwenden Sie nur unkritische Textausschnitte oder ein für solche Inhalte freigegebenes Werkzeug:

Prüfe, ob die Antwort durch den Quelltext gedeckt ist.
Quelltext: [Textstelle einfügen]
Antwort des Chatbots: [Antwort einfügen]
Aufgabe:
1. Zerlege die Antwort in einzelne Aussagen.
2. Ordne jeder Aussage zu: «belegt», «teilweise belegt», «nicht belegt» oder «widerspricht».
3. Zitiere jeweils die passende Stelle aus dem Quelltext.
4. Nenne Bedingungen oder Ausnahmen im Quelltext, die in der Antwort fehlen.
5. Schreibe zuletzt eine korrigierte Antwort, die nur belegte Aussagen enthält.

Das Ergebnis ist eine Hilfe zur Fehlersuche. Die endgültige Bewertung nehmen Sie selbst im Original vor.

Typische Fehlerbilder

Diese Tabelle hilft bei der ersten Einordnung. In der Praxis treten oft mehrere Ursachen gemeinsam auf.

Wie gross ist das Problem wirklich?

Bevor Sie das System umbauen, messen Sie. Nehmen Sie 20 Fragen, deren richtige Antwort Sie kennen, und bewerten Sie jede Antwort mit «richtig», «teilweise richtig» oder «falsch». Wenn nur eine von zwanzig Antworten teilweise falsch ist, genügt oft eine Dokumentkorrektur. Sind es fünf, lohnt sich die Frage nach Suche und Einstellungen.

Wiederholen Sie diese Messung nach jeder Änderung. So sehen Sie, ob Ihre Massnahmen wirken, und vermeiden den Eindruck, es werde besser, nur weil die letzte Frage gerade gut ging.

Worauf Sie achten müssen

• Quelle prüfen, nicht nur sehen. Die Quellenangabe ist ein Hinweis, kein Beweis. Bei wichtigen Aussagen lesen Sie die Stelle selbst.
• Zufall. Sprachmodelle können bei gleicher Frage unterschiedlich antworten. Testen Sie mehrfach, bevor Sie eine Ursache festlegen.
• Nicht übertrieben anpassen. Eine Regel, die einen Fall behebt, kann andere verschlechtern. Testen Sie nach jeder Änderung die ganze Testliste.
• Verantwortung. Den Inhalt Ihrer Unterlagen und die Weitergabe von Auskünften verantworten Sie, nicht die KI.
• Datenschutz bei der Fehlersuche. Wenn Sie Antworten und Quellen in ein anderes Werkzeug kopieren, achten Sie auf Personendaten und Vertrauliches.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Weiterbildungsinstitut in Bern beantwortet Anmeldefragen per Chatbot. Frau Haldimann erhält die Rückmeldung, ein Teilnehmer sei auf «kostenlose Stornierung bis 14 Tage vorher» hingewiesen worden.

Vorher: Im Reglement steht «kostenlose Stornierung bis 14 Tage vorher, ausser bei Kursen mit Prüfung». Der Chatbot hat nur den ersten Teil wiedergegeben, weil die Ausnahme im nächsten Textstück stand. Nachher: Frau Haldimann schreibt den Absatz so um, dass die Ausnahme im selben Satz steht, und ergänzt in der Anweisung, dass Bedingungen immer mitzunennen sind. Der Fall wird in die Testliste aufgenommen.

So hilft Ihnen Alpasana

Bei der systematischen Fehlersuche und Verbesserung Ihres Chatbots unterstützt Sie die KI-Beratung und digitale Transformation von Alpasana: von der Prozessaufnahme über Pilot und Einsatzregeln bis zur schrittweisen Skalierung. So wird aus Einzelfehlern eine nachvollziehbare Qualitätssicherung.

Häufige Fragen

Ist ein falscher Chatbot-Fall ein Zeichen, dass alles unbrauchbar ist?

Nein. Einzelne Fehler sind bei dieser Technik normal. Wichtig ist, wie häufig sie vorkommen, wie gravierend sie sind und ob Sie sie erkennen und beheben können.

Kann ich selbst sehen, welche Textstücke der Chatbot erhalten hat?

Das hängt vom System ab. Manche zeigen die abgerufenen Stücke an, bei anderen fragen Sie den Anbieter. Diese Sicht ist für die Fehlersuche sehr wertvoll.

Hilft ein grösseres oder neueres Modell?

Manchmal ja, besonders bei komplizierten Texten. Aber ein besseres Modell behebt keine schlechten Dokumente und keine falsche Suche. Prüfen Sie zuerst die Grundlagen.

Wie oft muss ich Stichproben prüfen?

Anfangs täglich oder wöchentlich, später in grösseren Abständen. Bei neuen Dokumenten oder Änderungen am System prüfen Sie wieder enger.