Wie prüfen wir, ob eine KI-Antwort durch Quellen gedeckt ist?

Das Problem

Ihr KI-Assistent beantwortet eine Frage zur Kündigungsfrist und fügt eine Fundstelle an: «Quelle: Personalreglement, Abschnitt 4.2». Das sieht seriös aus. Frau Müller aus der Personalabteilung schlägt nach und stellt fest: Abschnitt 4.2 handelt von Ferienregelungen. Die Frist in der Antwort steht dort nicht.

Das kommt vor. Eine KI formuliert Antworten, die zur Frage und zur Art der Quellen passen, auch wenn der Inhalt nicht durch die Quelle gedeckt ist. Fachleute nennen das fehlende Quellentreue (englisch «faithfulness» oder «groundedness»): Die Antwort bleibt nicht bei dem, was die Quelle sagt.

Wer interne Auskünfte auf KI-Antworten stützt, muss deshalb wissen, wie oft die Fundstellen tragen. Wie man Quellenangaben überhaupt einrichtet, steht unter Quellenangaben einrichten.

So lösen Sie es mit KI – Schritt für Schritt

1. Stichprobe bilden. Nehmen Sie zwanzig bis dreissig Antworten aus dem Testbetrieb, gemischt nach Themen und Schwierigkeit. Wichtige Themen wie Fristen und Preise sollten überproportional vertreten sein.

1. Antwort in Aussagen zerlegen. Teilen Sie jede Antwort in einzelne Behauptungen: «Die Frist beträgt drei Monate.» – «Sie gilt ab Monatsende.» – «Sie gilt auch in der Probezeit.»

1. Fundstelle öffnen. Gehen Sie zur genannten Stelle im Originaldokument, nicht zu einer Zusammenfassung davon.

1. Jede Aussage zuordnen. Markieren Sie je Behauptung: «Steht dort», «Steht dort sinngemäss», «Steht nicht dort» oder «Widerspricht der Quelle».

1. Fehlerart bestimmen. Gibt es erfundene Zusätze, falsche Zahlen, übersehene Einschränkungen («ausser bei …») oder eine falsche Fundstelle bei richtigem Inhalt?

1. Ursache suchen. Lag die richtige Stelle gar nicht beim Assistenten, ist die Suche schuld, siehe Suchqualität messen. Lag sie vor und wurde falsch wiedergegeben, ist die Formulierung der Antwort das Problem.

1. Gegenmassnahmen testen. Mögliche Hebel sind eine strengere Anweisung («Antworte nur mit wörtlich belegbaren Aussagen»), kürzere Textabschnitte oder kürzere Antworten. Prüfen Sie danach erneut mit derselben Stichprobe.

1. Ergebnis festhalten und Regeln ableiten. Legen Sie fest, bei welchen Themen Antworten stets an der Quelle zu bestätigen sind.

Vorlage zum Kopieren

Dieses Prüfblatt können Sie pro Antwort ausfüllen:

Und mit diesem Prompt zerlegen Sie eine Antwort in prüfbare Aussagen. Die eigentliche Prüfung machen Sie selbst:

Hier ist eine Antwort unseres KI-Assistenten:
[Antwort einfügen]
Zerlege sie in einzelne, einzeln überprüfbare Aussagen und nummeriere sie. Schreibe zu jeder Aussage nur die Behauptung, ohne zu beurteilen, ob sie stimmt. Markiere Aussagen mit Zahlen, Fristen oder Namen besonders.

Setzen Sie keine vertraulichen Antworten in einen externen Dienst ein, wenn dies nicht erlaubt ist. Schwärzen Sie Namen und Beträge vorher.

Worauf Sie achten müssen

• Eine Quelle zu nennen, ist nicht dasselbe wie sie zu belegen. Gerade formal korrekte Fundstellen verleiten zum Vertrauen.
• Teilwahrheiten. Antworten können zu 90 Prozent stimmen und an einer entscheidenden Einschränkung scheitern. Prüfen Sie Ausnahmen und Bedingungen besonders.
• Aktualität. Eine Quelle kann stimmen und veraltet sein. Achten Sie auf Datum und Version, siehe veraltete Dokumente.
• KI als Prüfhilfe. Eine zweite KI kann Vorprüfungen machen, ist aber selbst fehleranfällig. Entscheidend bleibt die Stichprobe durch Menschen.
• Keine Aussage über alle Fälle. Eine Stichprobe zeigt Tendenzen, keine Garantie. Bei Folgen für Dritte (Recht, Gesundheit, Geld) gehört jede Antwort an die Quelle.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Berufsbildungszentrum im Kanton Solothurn setzt einen Assistenten für Fragen zu Reglementen ein. Vorher vertraut das Sekretariat auf die Fundstellen. Nachher prüft Frau Müller dreissig Antworten Aussage für Aussage. Bei sechs Antworten steht ein Zusatz nicht in der Quelle, meist eine «übliche» Frist, die der Assistent ergänzt hat. Das Zentrum verschärft die Anweisung, fügt den Hinweis «Bitte an der Quelle prüfen» bei Fristfragen an und wiederholt den Test.

So hilft Ihnen Alpasana

Wenn Sie die Qualität Ihres KI-Assistenten systematisch prüfen und verbessern wollen, hilft die KI-Beratung und digitale Transformation von Alpasana. Nach Angebot gehören dazu die Integration von KI-Agenten mit Anwendungsfall, Pilot, Einsatzregeln und Skalierung sowie die Dokumentation der Umsetzung.

Projekte werden individuell offeriert.

Häufige Fragen

Wie viele Antworten muss ich prüfen?

Für einen ersten Eindruck genügen zwanzig bis dreissig. Je gravierender mögliche Fehler sind, desto mehr und desto häufiger sollten Sie prüfen.

Kann der Assistent nur wörtliche Zitate liefern?

Man kann ihn dazu anweisen und wörtliche Auszüge anzeigen lassen. Das erleichtert die Prüfung, ist aber kein Schutz vor falschen Schlüssen aus dem Zitat.

Was ist der Unterschied zu einer Halluzination?

Eine Halluzination ist eine erfundene Angabe. Mangelnde Quellentreue ist breiter: Auch eine echte, aber falsch verstandene oder unvollständig wiedergegebene Quelle gehört dazu. Siehe Halluzinationen testen.

Muss ich bei jeder Antwort prüfen?

Nein. Legen Sie Themen fest, bei denen immer geprüft wird, und prüfen Sie den Rest stichprobenartig.