Ist die sichtbare KI-Erklärung ein Beweis für Richtigkeit?

Das Problem

Moderne KI-Werkzeuge zeigen oft nicht nur das Ergebnis, sondern auch einen Weg dorthin: «Zuerst habe ich A geprüft, dann B verglichen, daraus folgt C.» Das wirkt gründlich und beruhigend. Man denkt: Wenn die KI so sorgfältig begründet, wird es stimmen.

Doch ein ausführlicher Lösungsweg ist keine Garantie. Wir sind es gewohnt, dass bei Menschen eine schlüssige Begründung für Kompetenz spricht. Bei KI ist dieser Schluss unsicher: Auch falsche Antworten können überzeugend begründet sein, und Begründungen enthalten selbst Fehler.

Diese Seite erklärt, was die sichtbare Erklärung aussagt und was nicht, und wie Sie sich nicht von eleganten Begründungen blenden lassen.

So lösen Sie es mit KI – Schritt für Schritt

So prüfen Sie eine überzeugende Erklärung:

1. Schlussfolgerung isolieren. Notieren Sie, was die KI am Ende behauptet.
2. Annahmen suchen. Welche Voraussetzungen stecken in der Erklärung? Stimmen sie?
3. Zahlen und Fakten nachprüfen. Rechnen Sie nach, schlagen Sie Angaben in einer Quelle nach.
4. Quellen öffnen. Gibt es sie? Steht dort, was behauptet wird?
5. Gegenfrage stellen. Fragen Sie: «Was könnte an dieser Begründung falsch sein?»
6. Eigene Fachkenntnis einsetzen. Passt es zu Ihrer Erfahrung?
7. Bei Wichtigem Fachperson fragen.

Einfach erklärt

Ein Sprachmodell erzeugt Text Wort für Wort. Bei einem Denkmodell gehört dazu ein Zwischenschritt, in dem es Überlegungen aufschreibt, bevor es antwortet. Diese Überlegungen können die Antwort verbessern, weil das Modell mehr Schritte durchgehen kann. Was Sie als «Erklärung» sehen, ist entweder dieser Zwischentext oder eine für Sie aufbereitete Zusammenfassung davon. Die Details unterscheiden sich je nach Anbieter. Siehe Reasoning einfach erklärt.

Entscheidend: Der Text ist wieder Sprache, die ein Modell erzeugt. Er spiegelt nicht zuverlässig wider, was im Inneren der Berechnung geschah. Anbieter weisen darauf hin, dass sichtbare Überlegungen nicht immer vollständig oder treu die tatsächliche Verarbeitung abbilden. Sie können Lücken, Abkürzungen oder nachträgliche Begründungen enthalten.

Vergleichen Sie es mit einem Kollegen, der Ihnen eine Entscheidung im Nachhinein erklärt. Seine Begründung kann ehrlich und trotzdem unvollständig sein. Er kann sich auch irren und es nicht merken.

Vorlage zum Kopieren

Mit diesem Prompt lassen Sie die KI ihre Antwort selbst auf Schwachstellen untersuchen. Das ersetzt Ihre Prüfung nicht, hilft aber, Prüfpunkte zu finden:

Hier ist deine Antwort samt Begründung: [Antwort einfügen]
Liste auf:
1. Alle Annahmen, auf denen die Begründung beruht.
2. Alle Zahlen, Namen und Quellen, die ich selbst prüfen sollte.
3. Mögliche Gegenargumente oder Fälle, in denen die Schlussfolgerung nicht gilt.
Erfinde keine Quellen. Wenn du etwas nicht sicher weisst, schreibe «unsicher».

Setzen Sie die Antwort ein und prüfen Sie die genannten Punkte danach selbst.

Worauf Sie achten müssen

• Überzeugungskraft täuscht: Gut geschriebene Begründungen wirken glaubwürdig, auch wenn sie falsch sind. Siehe Selbstsichere Fehler.
• Falsche Schritte, richtiges Ergebnis (und umgekehrt): Beides kommt vor. Prüfen Sie Ergebnis und Weg.
• Erfundene Quellen: Fundstellen in der Erklärung müssen existieren und den Satz tatsächlich stützen.
• Entscheidungen über Menschen: Hier genügt eine KI-Begründung nicht. Menschliche Prüfung und nachvollziehbare Gründe sind nötig. Rechtliche Anforderungen klären Sie mit einer Fachperson. Siehe Erklärbarkeit von KI.
• Datenschutz: Wenn Sie die Zwischenüberlegungen speichern oder weitergeben, enthalten sie unter Umständen vertrauliche Angaben.
• Fehler trotz Denken: Denkmodelle sind nicht fehlerfrei, siehe Fehler trotz Denken.

Ein Beispiel aus der Praxis

Ein Beispiel: Der Leiter einer Bauverwaltung in einer Gemeinde im Kanton Luzern lässt eine KI prüfen, ob ein Baugesuch eine Abstandsvorschrift einhält. Die KI liefert eine schlüssige Erklärung mit einer Berechnung und nennt eine Verordnung.

Vorher: Er ist beeindruckt und möchte die Antwort übernehmen. Nachher: Er sucht die genannte Verordnung auf der offiziellen Seite und stellt fest, dass der Abstand dort anders geregelt ist und die Berechnung von falschen Annahmen ausgeht. Er rechnet selbst nach und fragt bei Unklarheit eine Fachperson. Die Erklärung der KI half ihm, die Fragestellung zu strukturieren, den Entscheid traf er mit geprüften Grundlagen.

Für Teams lohnt sich eine einfache Regel: Eine KI-Begründung darf nie die einzige Grundlage einer Entscheidung sein. Verlangen Sie bei wichtigen Aussagen mindestens eine unabhängige Quelle oder eine Kontrolle durch eine zweite Person. Halten Sie ausserdem fest, wer die Aussage geprüft hat. So wird aus einer überzeugenden Erzählung eine belastbare Grundlage, und Sie können später nachweisen, wie Sie zu Ihrem Schluss gekommen sind.

Üben Sie das im Alltag an kleinen Beispielen. Lassen Sie sich eine Begründung geben, suchen Sie bewusst den schwächsten Punkt und prüfen Sie ihn. Nach wenigen Wiederholungen gelingt das viel schneller, und Sie erkennen typische Schwachstellen auf einen Blick: unbelegte Zahlen, zu glatte Übergänge und Quellen, die sich nicht öffnen lassen.

So hilft Ihnen Alpasana

Damit Mitarbeitende KI-Begründungen kritisch lesen, helfen Schulungen. Die KI-Weiterbildung für Unternehmen von absofort umfasst laut Beschreibung Online-Weiterbildung von Grundlagen bis zum Executive-Diplomlehrgang, mit Datenschutz als Lerninhalt und dem sorgfältigen Umgang mit Ergebnissen und Unternehmensdaten. Für Firmenlösungen und Teambuchungen gibt es eine Kontaktmöglichkeit.

Häufige Fragen

Soll ich die Erklärung dann überhaupt lesen?

Ja. Sie hilft zu sehen, wie die KI die Aufgabe verstanden hat, und deckt oft Missverständnisse auf. Betrachten Sie sie als Ausgangspunkt für Ihre Kontrolle.

Zeigen alle Modelle ihre Überlegungen?

Nein. Manche zeigen Zwischenschritte, andere nur eine Zusammenfassung oder gar nichts. Das hängt vom Anbieter ab und kann sich ändern.

Was ist ein besserer Beleg als die Erklärung?

Eine Originalquelle, eine Kontrollrechnung oder die Einschätzung einer Fachperson. Je wichtiger die Entscheidung, desto stärker sollte der Beleg sein.