Warum klingt KI sicher, obwohl die Antwort falsch ist?

Das Problem

Sie stellen eine Frage und erhalten sofort eine klar gegliederte Antwort. Die KI verwendet Fachbegriffe, nennt Gründe und schliesst mit einer eindeutigen Empfehlung. Es fühlt sich an, als hätte eine erfahrene Person die Sache sorgfältig geprüft.

Bei einer KI ist diese Wirkung jedoch kein verlässlicher Hinweis auf die Richtigkeit. Ein Sprachmodell ist ein System, das Sprache anhand gelernter Zusammenhänge verarbeitet und erzeugt. Es kann eine falsche Aussage in derselben ruhigen Form darstellen wie eine richtige.

Für Frau Müller ist das im Alltag besonders schwierig, wenn ihr das Fachwissen zur Kontrolle fehlt. Dann erscheint die Form der Antwort als Ersatz für einen Beleg. Die Lösung besteht nicht darin, jeden KI-Satz grundsätzlich abzulehnen, sondern die entscheidenden Aussagen gezielt überprüfbar zu machen.

So lösen Sie es mit KI – Schritt für Schritt

1. Benennen Sie Ihre Entscheidung. Schreiben Sie zunächst auf, was Sie aufgrund der Antwort tun würden. Geht es nur um einen Formulierungsvorschlag oder um eine Bestellung, einen Termin oder eine verbindliche Auskunft? Je folgenreicher die Verwendung, desto wichtiger sind unabhängige Belege und eine zuständige Fachperson.
2. Zerlegen Sie die Antwort in Aussagen. Markieren Sie Sätze, die überprüfbare Tatsachen behaupten. Trennen Sie diese von Empfehlungen, Beispielen und Wertungen. Der Satz «Dieser Weg ist am besten» braucht andere Kriterien als die Behauptung, eine bestimmte Stelle sei heute geöffnet.
3. Fordern Sie Begründungsarten an. Lassen Sie die KI für jede wichtige Aussage angeben, ob sie sich auf Ihren Text, eine aufgerufene Quelle oder eine Annahme stützt. Bitten Sie um klar markierte Lücken. Auch diese Einordnung bleibt prüfbedürftig, hilft aber dabei, den nächsten Kontrollschritt zu planen.
4. Prüfen Sie eine entscheidende Stelle extern. Öffnen Sie das Originaldokument, die offizielle Website oder Ihr eigenes System. Vergleichen Sie die Aussage mit der dortigen Information. Wenn Sie die fachliche Bedeutung nicht beurteilen können, legen Sie genau diesen Punkt einer geeigneten Person vor.
5. Suchen Sie nach Bedingungen und Gegenbelegen. Fragen Sie, unter welchen Umständen die Aussage nicht gelten würde. Prüfen Sie insbesondere Land, Datum, Zielgruppe und Ausnahmen. Eine überzeugende Antwort kann richtig klingende allgemeine Regeln auf einen unpassenden Einzelfall übertragen.
6. Kennzeichnen Sie den Prüfstand. Notieren Sie zu jedem wichtigen Punkt «belegt», «noch offen» oder «widerlegt». Überarbeiten Sie den Entwurf anhand dieser Notizen. Verwenden Sie eine Aussage erst dann verbindlich, wenn ihre Grundlage für Ihren Zweck ausreichend geklärt ist.

Einfach erklärt

Sprachliche Sicherheit und sachliche Sicherheit sind verschiedene Dinge. Ein gut formulierter Satz kann leicht verständlich, höflich und logisch aufgebaut sein. Ob sein Inhalt stimmt, hängt aber von der passenden Datengrundlage und korrekten Verarbeitung ab.

Ein erfundenes Beispiel: Die KI nennt für eine Organisation eine plausibel klingende Zuständigkeit. Sie ergänzt eine saubere Erklärung, warum genau diese Stelle zuständig sei. Wenn schon die Zuständigkeit falsch ist, machen die folgenden Sätze den Fehler nur überzeugender.

Auch Wörter wie «eindeutig», «garantiert» oder «zweifellos» sind zunächst Bestandteile der Ausgabe. Sie ersetzen weder eine Messung noch eine fachliche Prüfung. Das NIST-Risikoprofil für generative KI beschreibt solche plausibel vorgetragenen falschen Inhalte als eine relevante Risikokategorie.

Für Ihre Arbeit hilft eine einfache Frage: «Woran könnte ich erkennen, dass dieser konkrete Satz falsch ist?» Wenn Ihnen darauf keine Antwort einfällt, brauchen Sie zuerst einen geeigneten Prüfweg. Mehr Text oder ein selbstbewussterer Ton schaffen diesen Prüfweg nicht.

Worauf Sie achten müssen

• Keine Sicherheit aus Stil ableiten: Rechtschreibung, Höflichkeit und klare Gliederung machen eine Antwort leichter lesbar. Sie sagen allein nichts über die sachliche Richtigkeit aus.
• Erfundene Belege erkennen: Auch eine Quellenliste kann plausibel aussehen. Prüfen Sie genannte Quellen unabhängig und lesen Sie die relevante Stelle.
• Keine sensiblen Daten nachreichen: Eine unsichere Antwort rechtfertigt nicht, plötzlich ganze Kunden- oder Personaldossiers hochzuladen. Geben Sie nur notwendige und freigegebene Informationen weiter.
• Kritik kann ebenfalls falsch sein: Wenn die KI ihre erste Antwort später zurücknimmt, ist damit die neue Fassung noch nicht bewiesen. Entscheidend ist die bessere überprüfbare Grundlage.
• Grenzen der eigenen Prüfung anerkennen: Für wichtige fachliche Entscheidungen reicht es nicht, dass eine Erklärung verständlich klingt. Lassen Sie den Einzelfall von der zuständigen Fachperson beurteilen.

Ein Beispiel aus der Praxis

Ein erfundenes Beispiel: Frau Müller fragt für ein KMU in St. Gallen nach einer organisatorischen Vorgabe. Die KI antwortet mit einer festen Regel und einer überzeugenden Begründung. Frau Müller möchte die Auskunft bereits an das Team weiterleiten.

Sie prüft die offizielle Information und erkennt, dass die Regel nur für eine andere Personengruppe gilt. Vorher hätte die klare Formulierung ihren Zweifel verdrängt. Nachher notiert sie die tatsächlich zutreffende Bedingung und gibt nur die bestätigte Information weiter.

Warum die KI Unsicherheit nicht immer selbst benennt, erklärt die Seite «Warum sagt KI nicht einfach: Ich weiss es nicht?». Beide Prüfwege lassen sich im Alltag miteinander verbinden.

So hilft Ihnen Alpasana

Der KI-Kurs mit Zertifikat von absofort bietet einen Einstieg mit Praxisaufgaben und Lernkontrollen. Sie können Grundlagen im eigenen Tempo bearbeiten und den erfolgreichen Kursabschluss mit einem überprüfbaren privaten Zertifikat nachweisen.

Die Beschäftigung mit solchen Beispielen hilft, Sprachwirkung und tatsächliche Belege auseinanderzuhalten. Ein Lernnachweis bestätigt den Kursabschluss; er macht einzelne spätere KI-Antworten nicht automatisch zuverlässig.

Häufige Fragen

Ist eine vorsichtige Antwort eher richtig?

Vorsichtige Formulierungen können auf Unsicherheit hinweisen, sind aber ebenfalls kein Wahrheitsbeweis. Ein falscher Satz kann mit «möglicherweise» beginnen, ein richtiger sehr bestimmt formuliert sein. Prüfen Sie den Inhalt anhand geeigneter Belege.

Hilft die Frage nach einer Prozentzahl für Sicherheit?

Eine von der KI genannte Prozentzahl ist ohne geprüftes Bewertungsverfahren keine verlässliche Fehlerwahrscheinlichkeit. Fragen Sie lieber nach fehlenden Angaben und konkreten Belegen. Diese Informationen lassen sich für Ihre Arbeit besser kontrollieren.

Muss ich jede sprachliche Verbesserung recherchieren?

Bei reiner Formulierungshilfe geht es vor allem darum, ob der ursprüngliche Sinn erhalten bleibt. Kontrollieren Sie, dass keine neuen Tatsachen, Zusagen oder Bedingungen hinzugefügt wurden. Sobald die KI inhaltlich ergänzt, brauchen diese Ergänzungen eine passende Prüfung.