Was sind Halluzinationen bei KI?

Das Problem

Sie bitten einen KI-Chat um drei Fachbücher zum Thema Lehrlingsausbildung. Die Antwort nennt Titel, Autorin, Verlag und Erscheinungsjahr – sauber formatiert. Nur: Zwei der Bücher gibt es nicht.

Das Tückische ist nicht der Fehler an sich. Menschen irren sich auch. Tückisch ist, dass die KI genauso überzeugt klingt, wenn sie erfindet, wie wenn sie recht hat. Es fehlt jedes Zögern, jedes «ich glaube», an dem Sie Unsicherheit erkennen könnten.

Wer solche Antworten ungeprüft weitergibt, blamiert sich im besten Fall. Im schlimmsten Fall stehen falsche Fristen in einem Schreiben an Kunden oder ein erfundenes Urteil in einer Stellungnahme.

So lösen Sie es mit KI – Schritt für Schritt

Ganz verhindern lassen sich Halluzinationen nicht. Mit diesen Schritten werden sie aber seltener und fallen schneller auf.

1. Material mitliefern: Fügen Sie den Text, die Tabelle oder die Notizen ein, auf die sich die Antwort stützen soll. Dann muss die KI weniger aus dem Gedächtnis rekonstruieren.
2. «Weiss nicht» ausdrücklich erlauben: Schreiben Sie in Ihre Frage: «Wenn du etwas nicht sicher weisst, schreibe ‹unsicher›.» Das hilft spürbar, ist aber keine Garantie.
3. Quellen verlangen – und öffnen: Lassen Sie sich Links geben und klicken Sie sie an. Ein Link, der ins Leere führt, ist ein starkes Warnsignal.
4. Websuche nutzen, wo vorhanden: Bei Fragen zu aktuellen Tatsachen schalten Sie die Suchfunktion Ihres KI-Chats ein. Das senkt das Risiko, beseitigt es aber nicht.
5. Gegenfrage stellen: Fragen Sie in einem neuen Chat dasselbe anders formuliert. Widersprechen sich die Antworten, ist Vorsicht angebracht.
6. Kritische Angaben markieren lassen: Bitten Sie: «Markiere alle Zahlen, Namen und Daten in deiner Antwort fett.» So sehen Sie auf einen Blick, was Sie prüfen müssen.
7. Selbst prüfen: Was nach aussen geht, kontrollieren Sie an einer verlässlichen Quelle – Gesetzestext, offizielle Website, Originaldokument.

Einfach erklärt

Ein Sprachmodell hat beim Training gelernt, wie Texte typischerweise aussehen. Fragen Sie nach einem Buch, weiss es: Buchangaben bestehen aus Titel, Name, Verlag und Jahr. Es erzeugt also etwas in genau dieser Form. Ob das Buch existiert, prüft es nicht – es hat keine eingebaute Bibliothek, in der es nachschlagen könnte.

Der Begriff «Halluzination» ist eigentlich irreführend, denn die KI sieht nichts, was nicht da ist. Fachleute sprechen auch von Konfabulation: dem Füllen von Lücken mit plausibel Klingendem. Besonders häufig passiert das bei seltenen Themen, genauen Zahlen, Zitaten, Literaturangaben und Personen, über die wenig bekannt ist.

Vertiefung finden Sie bei Erfundene Quellen erkennen und Selbstsichere Fehler.

Vorlage zum Kopieren

Beantworte folgende Frage: [Ihre Frage]

Regeln:
- Stütze dich, wenn möglich, nur auf diesen Text: [Text einfügen oder «kein Text»]
- Wenn du etwas nicht sicher weisst, schreibe «unsicher» dazu.
- Erfinde keine Quellen, Zahlen oder Zitate.
- Liste am Ende alle Angaben auf, die ich selbst überprüfen sollte,
  und sage, wo ich sie prüfen kann.

Den letzten Punkt sollten Sie nie weglassen; er macht aus der Antwort gleich eine kleine Prüfliste.

Worauf Sie achten müssen

• Auch bezahlte und neue Modelle halluzinieren: Neuere Modelle irren je nach Aufgabe seltener, fehlerfrei ist aber, Stand Oktober 2026, keines.
• Die KI prüft sich nicht zuverlässig selbst: Fragen Sie «Stimmt das?», bestätigt sie manchmal den eigenen Fehler oder korrigiert etwas Richtiges ins Falsche.
• Halluzinationen über Personen: Erfundene Aussagen über reale Menschen können deren Ruf schaden. Solche Inhalte nie ungeprüft verbreiten.
• Zusammenfassungen sind nicht immun: Auch beim Zusammenfassen eines eingefügten Textes kann die KI Dinge hinzufügen oder weglassen. Stichproben im Original helfen.
• Verantwortung bleibt bei Ihnen: Wer KI-Inhalte verwendet, ist für deren Richtigkeit verantwortlich – nicht der Anbieter.

Ein Beispiel aus der Praxis

Ein Beispiel: Eine Primarlehrerin in Frauenfeld bereitet einen Elternabend zum Thema Medienkonsum vor. Sie bittet einen KI-Chat um passende Literatur und erhält fünf Empfehlungen.

Vorher hätte sie die Liste direkt auf das Handout gesetzt. Nachher sucht sie jeden Titel im Katalog der Kantonsbibliothek. Drei Bücher findet sie, zwei existieren nicht. Für das nächste Mal formuliert sie die Frage mit der Vorlage oben und plant die Prüfung bewusst ein, bevor sie etwas druckt.

So hilft Ihnen Alpasana

Halluzinationen zu erkennen, ist eine der wichtigsten Grundkompetenzen im Umgang mit KI. Der KI-Kurs mit Zertifikat von absofort führt online und ohne Vorkenntnisse an diesen kritischen Blick heran – mit Praxisaufgaben, Modul-Quizzen und einem KI-Lerncoach für Rückfragen.

Den Abschluss dokumentiert ein PDF-Zertifikat mit eindeutiger ID, das öffentlich verifiziert werden kann. Der Kurszugang bleibt laut Angebotsbeschreibung nach einer Einmalzahlung dauerhaft bestehen.

Häufige Fragen

Warum sagt die KI nicht einfach, dass sie es nicht weiss?

Sprachmodelle wurden darauf trainiert, hilfreiche, vollständige Antworten zu geben. Ein inneres Gefühl für das eigene Nichtwissen haben sie nur sehr eingeschränkt. Neuere Modelle sagen öfter «weiss ich nicht», aber nicht verlässlich.

Sind Halluzinationen ein Fehler, der bald behoben wird?

Sie lassen sich verringern, etwa durch Websuche oder bessere Trainingsverfahren. Weil Sprachmodelle grundsätzlich Wahrscheinlichkeiten berechnen, gehen Fachleute aber nicht davon aus, dass sie bald ganz verschwinden.

Kann eine KI absichtlich lügen?

Eine Absicht im menschlichen Sinn hat sie nicht. Sie erzeugt Text, der zur Anfrage passt. Das Ergebnis kann trotzdem täuschen, darum zählt die Wirkung, nicht die Absicht.