Reicht es, die KI ihre eigene Antwort prüfen zu lassen?

Das Problem

Sie haben die KI einen Text oder eine Auswertung erstellen lassen, und nun möchten Sie sichergehen. Es liegt nahe, zu fragen: «Prüfe deine Antwort noch einmal auf Fehler.» Das ist schnell gemacht und wirkt gründlich. Oft antwortet die KI dann: «Ich habe die Antwort geprüft, sie ist korrekt», oder sie korrigiert eine Kleinigkeit.

Genau darin liegt eine Falle. Eine KI, die ihre Antwort selbst prüft, nutzt dasselbe Wissen und dieselben Denkmuster, die die Antwort erzeugt haben. Was sie nicht weiss, merkt sie auch bei der Kontrolle nicht. Und sie neigt dazu, ihre eigene Antwort zu bestätigen.

Das heisst nicht, dass die Selbstprüfung nutzlos ist. Sie hilft bei bestimmten Fehlerarten. Wer ihre Grenzen kennt, setzt sie sinnvoll ein und verlässt sich nicht allein darauf.

Einfach erklärt

Eine KI-Antwort entsteht, indem das Modell Wort für Wort das Wahrscheinlichste fortsetzt. Fragen Sie danach «Stimmt das?», entsteht wieder ein Text nach demselben Prinzip. Das ist keine unabhängige Kontrolle wie bei einer zweiten Person, die im Original nachschlägt. Es ist eher, als würden Sie eine Kollegin bitten, ihre eigene Rechnung noch einmal zu überfliegen: Offensichtliche Tippfehler fallen auf, Denkfehler bleiben häufig stehen.

So lösen Sie es mit KI – Schritt für Schritt

1. Selbstprüfung gezielt einsetzen: Bitten Sie nicht allgemein «Prüfe das», sondern nennen Sie, worauf sie achten soll: Vollständigkeit, Widersprüche, Ton, Format.
2. Kritikrolle nutzen: Lassen Sie die KI ausdrücklich nach Schwächen suchen, statt zu bestätigen. Siehe Wie lasse ich die KI einen Entwurf kritisch prüfen?.
3. Unsicherheit benennen lassen: Bitten Sie sie, Stellen zu kennzeichnen, bei denen sie nicht sicher ist. Siehe Wie lasse ich die KI Unsicherheit offen benennen?.
4. Fakten am Original prüfen: Kontrollieren Sie Zahlen, Namen, Fristen und Zitate selbst in den Quellen. Siehe Wie prüfe ich eine KI-Antwort auf Fehler?.
5. Rechnen mit Rechner: Rechnen Sie Beträge und Prozente in einem Tabellenprogramm nach.
6. Zweite Sicht einholen: Lassen Sie wichtige Texte von einer Kollegin lesen. Eine zweite KI kann zusätzlich Hinweise geben, siehe Reicht eine zweite KI zur Kontrolle einer Antwort?.
7. Ergebnis dokumentieren: Notieren Sie, was geprüft wurde und womit. Bei wichtigen Dokumenten ist das ein Nachweis.
8. Freigeben erst nach Ihrer Prüfung: Die Verantwortung bleibt bei Ihnen.

Ein praktischer Mittelweg ist die «Prüfliste statt Urteil»: Lassen Sie die KI nicht entscheiden, ob etwas stimmt, sondern bitten Sie um eine Liste der Stellen, die geprüft werden sollten. So nutzen Sie ihre Stärke, nämlich Texte rasch zu durchsuchen, und behalten die Entscheidung bei sich. Das spart Zeit, ohne die Kontrolle abzugeben. Bei sehr wichtigen Texten lohnt es sich zusätzlich, die Prüfung in einem neuen Chat mit dem Originalmaterial zu wiederholen, damit die frühere Antwort die Kontrolle nicht beeinflusst.

Vorlage zum Kopieren

Hier ist mein Auftrag und deine Antwort:
Auftrag: [Auftrag einfügen]
Antwort: [Antwort einfügen]
Prüfe als kritische Lektorin, nicht als Bestätigung:
1. Welche Teile des Auftrags sind nicht oder nur teilweise erfüllt?
2. Wo widerspricht sich die Antwort?
3. Welche Angaben (Zahlen, Namen, Daten, Fristen) sollte ich selbst im Original prüfen? Liste sie auf.
4. Wo bist du unsicher? Kennzeichne diese Stellen.
Behaupte nicht, dass etwas «korrekt» sei, wenn du es nicht belegen kannst. Sage, was du nicht prüfen kannst.

Fügen Sie Auftrag und Antwort ein, ohne vertrauliche Angaben. Die Liste der zu prüfenden Angaben ist der nützlichste Teil.

Worauf Sie achten müssen

• Datenschutz: Auch für die Prüfung gilt: keine Personendaten und Geheimnisse in nicht freigegebene Programme.
• Falsche Sicherheit: Sätze wie «Ich habe alles geprüft» sind keine Garantie. Verlassen Sie sich auf Ihre eigene Kontrolle.
• Bestätigungsneigung: KI stimmt gern zu. Fragen Sie nach Schwächen, nicht nach Bestätigung. Siehe Wie verhindere ich, dass die KI mir ständig recht gibt?.
• Gleiche Wissenslücken: Eine zweite Prüfung durch dasselbe Modell wiederholt dessen blinde Flecken.
• Heikle Bereiche: Bei Recht, Gesundheit, Finanzen und Personal entscheiden Fachpersonen.
• Zeitaufwand: Eine gründliche Prüfung kostet Zeit, die Sie einplanen sollten. Sonst sparen Sie am falschen Ort.

Ein Beispiel aus der Praxis

Ein Beispiel: Eine Sachbearbeiterin in einer Gemeinde im Kanton Thurgau lässt sich eine Zusammenfassung eines Gemeinderatsbeschlusses schreiben. Vorher fragt sie die KI: «Stimmt alles?» und bekommt ein «Ja». Sie versendet die Zusammenfassung, in der eine Frist falsch genannt ist.

Nachher bittet sie die KI, Zahlen und Fristen als Liste auszugeben, die sie selbst prüfen soll. Die Liste enthält die Frist. Beim Vergleich mit dem Beschluss fällt die Abweichung auf, und sie korrigiert sie. Die Selbstprüfung hat den Hinweis geliefert, die Kontrolle am Original hat den Fehler gefunden.

So hilft Ihnen Alpasana

Wie man KI-Ergebnisse systematisch prüft und Prompts so formuliert, dass die Prüfung erleichtert wird, lernen Sie im Kurs Prompt Engineering von absofort. Beschrieben sind unter anderem das Überarbeiten von Prompts und das Prüfen von Ergebnissen sowie der Umgang mit Datenschutz. Der Kurs läuft online mit Zertifikat.

Häufige Fragen

Hilft es, die Prüfung einem anderen Modell zu übertragen?

Teilweise. Ein anderes Modell hat andere Schwächen und findet manchmal Fehler, die das erste übersieht. Es ersetzt aber die Prüfung am Original nicht.

Soll ich der KI vertrauen, wenn sie ihre Antwort bestätigt?

Nicht allein. Bestätigung klingt überzeugend, ist aber kein Beweis. Prüfen Sie wichtige Punkte selbst.

Was ist der beste Einsatz der Selbstprüfung?

Als Hinweisgeberin für Lücken, Widersprüche und Prüfpunkte. Sie liefert Ihnen eine Liste, die Sie am Original abarbeiten.