ChatGPT erfindet Quellen: Belege richtig prüfen

Das Problem

Sie bitten die KI um eine Antwort mit Quellen. Sie erhalten eine überzeugende Liste: Studien mit Autoren, Jahreszahlen, Zeitschriften, vielleicht sogar Links. Beim Nachschlagen finden Sie nichts. Die Studie gibt es nicht, der Link führt ins Leere oder zu einer Seite, die etwas ganz anderes behandelt.

Das ist kein Einzelfall. Ein KI-Sprachmodell erzeugt Text, der wie eine Quellenangabe aussieht: plausible Namen, passende Zeitschriften, realistische Seitenzahlen. Es schlägt nicht in einer Datenbank nach, ausser es hat eine Suchfunktion, und selbst dann kann es Quellen falsch wiedergeben. Solche erfundenen Angaben nennt man Halluzinationen.

Gefährlich wird es, wenn Sie die Angaben in einen Bericht, ein Gutachten oder eine Kundeninformation übernehmen. Dann stehen Sie für etwas gerade, das nicht existiert. Mit einem festen Prüfablauf und einem besseren Auftrag lässt sich das Risiko stark senken.

So lösen Sie es mit KI – Schritt für Schritt

1. Wichtigkeit einschätzen: Je folgenreicher die Aussage (Recht, Gesundheit, Zahlen für Entscheidungen), desto strenger prüfen Sie.
2. Quelle suchen: Geben Sie Titel, Autor oder Link in eine normale Suchmaschine oder einen Katalog ein. Existiert die Quelle?
3. Link öffnen: Führt der Link zu dem genannten Inhalt? Prüfen Sie Domain, Titel und Datum.
4. Aussage im Original finden: Steht tatsächlich das, was die KI behauptet? Lesen Sie die Stelle. Oft existiert die Quelle, sagt aber etwas anderes oder nur teilweise dasselbe.
5. Aktualität prüfen: Ist die Quelle noch gültig? Gesetze und Zahlen ändern sich. Siehe Aktuelle Angaben ohne falsche Sicherheit.
6. Nicht auffindbares streichen: Was Sie nicht finden, verwenden Sie nicht. Fragen Sie die KI nicht nochmals nach derselben Quelle, sie erfindet gern weiter.
7. Besser beauftragen: Geben Sie der KI Ihre eigenen Unterlagen und verlangen Sie Belege nur daraus. Siehe Nur bereitgestellte Informationen nutzen.
8. Ehrlichkeit erlauben: Erlauben Sie ausdrücklich «keine Quelle bekannt» als Antwort.
9. Prüfung dokumentieren: Notieren Sie, welche Quellen Sie geprüft haben, mit Datum.

Vorlage zum Kopieren

Beantworte die Frage [Frage] ausschliesslich anhand der folgenden Unterlagen: [Text oder Auszüge einfügen].
Regeln:
1. Verwende keine Informationen, die nicht in den Unterlagen stehen.
2. Belege jede Aussage mit der Fundstelle in den Unterlagen (Titel, Seite/Abschnitt).
3. Erfinde keine Quellen, Studien, Zahlen oder Gesetzesartikel. Nenne nur Quellen, die in den Unterlagen vorkommen.
4. Wenn die Unterlagen die Frage nicht beantworten, schreibe «Keine Quelle in den Unterlagen» statt zu raten.
5. Unterscheide klar zwischen «steht in den Unterlagen» und «meine Einschätzung».

Wenn Sie keine eigenen Unterlagen haben, bitten Sie die KI um Suchbegriffe und Stellen, wo sie nachschlagen könnten, nicht um fertige Quellen.

Worauf Sie achten müssen

• Gut klingt nicht gleich echt: Detaillierte Angaben wie Seitenzahlen und DOI-Nummern erhöhen die Glaubwürdigkeit, aber nicht die Richtigkeit.
• Halb richtige Quellen: Echte Quelle, falsche Aussage, ist besonders tückisch. Prüfen Sie die Stelle.
• Suchfunktionen der KI: Auch KI mit Websuche verwechselt oder verkürzt Quellen. Klicken Sie Links an.
• Recht und Gesundheit: Prüfen Sie Gesetzesartikel in der offiziellen Sammlung, zum Beispiel auf fedlex.admin.ch, und medizinische Angaben bei Fachpersonen.
• Zitierpflicht: Wer Quellen in Berichten nennt, haftet für Richtigkeit. Ungeprüfte Zitate können dem Ruf schaden.
• Datenschutz: Geben Sie für die Quellenprüfung keine vertraulichen Texte in öffentliche Dienste ein.

Ein Beispiel aus der Praxis

Ein Beispiel: Eine Mitarbeiterin der Standortförderung in Aarau bereitet ein Argumentationspapier vor und bittet die KI um Studien zu Homeoffice und Produktivität.

Vorher: Die KI nennt fünf Studien mit Autoren und Jahreszahlen. Die Mitarbeiterin übernimmt sie in das Papier. Bei der Sitzung fragt jemand nach einer Studie, und sie kann sie nicht vorzeigen. Zwei der fünf gibt es nicht.

Nachher: Beim nächsten Mal sammelt sie selbst drei Berichte aus anerkannten Quellen und gibt sie der KI als Unterlagen mit der Vorlage. Die Antwort bezieht sich nur auf diese Berichte, mit Fundstellen. Sie prüft die Fundstellen und erwähnt nur, was sie selbst gelesen hat.

So hilft Ihnen Alpasana

Wer KI-Ergebnisse kritisch prüfen will, lernt das am besten mit klaren Aufträgen. Im Kurs Prompt Engineering von absofort legen Sie Aufgabe, Kontext, Ziel und Ausgabeformat fest, berücksichtigen den Datenschutz und prüfen Ergebnisse. Online, mit Zertifikat, ohne Programmierkenntnisse.

Häufige Fragen

Warum erfindet die KI Quellen?

Weil sie Texte erzeugt, die zu einer Frage passen, und Quellenangaben ein häufiges Textmuster sind. Ob die Quelle existiert, prüft sie nicht.

Sind Quellen mit Link sicherer?

Etwas, aber nicht sicher. Links können erfunden, veraltet oder falsch zugeordnet sein. Öffnen Sie jeden Link und lesen Sie die Stelle.

Wie bitte ich um verlässliche Belege?

Geben Sie eigene Unterlagen vor und verlangen Sie Fundstellen daraus. Alternativ lassen Sie sich Suchbegriffe für die Recherche nennen und suchen selbst.