Wie erkenne ich erfundene Quellen in KI-Antworten?

Das Problem

Eine KI liefert Ihnen eine überzeugende Antwort mit einer langen Quellenliste. Titel, Namen und Jahreszahlen sehen ordentlich aus. Erst beim Nachschlagen merken Sie, dass ein Bericht nicht auffindbar ist oder die gefundene Veröffentlichung von etwas anderem handelt.

Eine Quellenangabe im KI-Text ist zunächst eine Behauptung darüber, wo etwas belegt sein soll. Das Sprachmodell, also das System zur Verarbeitung und Erzeugung von Sprache, kann passende klingende Angaben zusammensetzen. Dabei können echte Namen mit einem falschen Titel oder einer nicht vorhandenen Veröffentlichung verbunden werden.

Im Büro fällt das manchmal erst auf, wenn die Geschäftsleitung nach dem Original fragt. Dann müssen Sie nicht nur den Beleg suchen, sondern möglicherweise auch eine bereits verbreitete Aussage korrigieren. Ein geordneter Quellencheck vor der Weitergabe ist deshalb Teil der eigentlichen Arbeit.

So lösen Sie es mit KI – Schritt für Schritt

1. Wählen Sie eine konkrete Aussage aus. Kopieren Sie diese in Ihre Arbeitsnotiz und schreiben Sie daneben die dazu genannte Quelle. Prüfen Sie zunächst Aussagen, von denen ein Entscheid abhängt. Eine lange Literaturliste am Ende einer Antwort zeigt noch nicht, welcher Eintrag welchen Satz belegen soll.
2. Lassen Sie die Angaben trennen. Fordern Sie Titel, Autorenschaft, herausgebende Stelle, Datum und genaue Fundstelle getrennt an. Die KI soll fehlende Angaben ausdrücklich offenlassen. Ergänzte Details sind weiterhin ungeprüft, auch wenn sie in einer sauber formatierten Tabelle erscheinen.
3. Suchen Sie unabhängig nach dem Original. Öffnen Sie eine Suchmaschine oder den Katalog einer Bibliothek und suchen Sie den exakten Titel in Anführungszeichen. Versuchen Sie anschliessend Titelteile zusammen mit dem Namen der herausgebenden Stelle. Rufen Sie deren Website bei Bedarf über einen selbst recherchierten Weg auf.
4. Vergleichen Sie die Identität der Quelle. Stimmen Titel, Autorenschaft, Erscheinungsjahr und Ausgabe überein? Verwechseln Sie nicht eine Rezension mit dem besprochenen Werk oder einen Entwurf mit der endgültigen Fassung. Wenn nur ähnliche Treffer erscheinen, markieren Sie die angegebene Quelle als bislang nicht bestätigt.
5. Lesen Sie die passende Stelle. Öffnen Sie das Original und suchen Sie nach dem behaupteten Inhalt. Lesen Sie auch den Absatz davor und danach. Achten Sie besonders auf Einschränkungen wie Untersuchungsgruppe, Land, Zeitraum und darauf, ob der Text lediglich eine Vermutung formuliert.
6. Halten Sie das Ergebnis fest. Notieren Sie die echte Adresse, die Fundstelle und Ihr Prüfdatum. Unterscheiden Sie «Quelle gefunden», «Aussage belegt» und «Aussage nicht belegt». Bei fehlendem Zugang zum Volltext bleibt die inhaltliche Bestätigung offen.
7. Überarbeiten Sie den Entwurf. Entfernen Sie unbelegte Behauptungen oder kennzeichnen Sie sie als offen. Wenn ein wichtiger Punkt davon abhängt, recherchieren Sie weiter oder fragen Sie eine Fachperson. Lassen Sie die KI erst danach mit den von Ihnen geprüften Belegen neu formulieren.

Vorlage zum Kopieren

Ordne die Belege in dieser Antwort, ohne neue Quellen zu erfinden:
[Antwort ohne vertrauliche Angaben]

Erstelle eine Tabelle:
Aussage | genannte Quelle | genaue Fundstelle | fehlende Angaben.
Trenne wörtliche Zitate von Zusammenfassungen und Schlussfolgerungen.
Wenn du das Original nicht eingesehen hast, schreibe das ausdrücklich.
Schlage anschliessend Suchbegriffe vor, mit denen ich die Quelle
unabhängig suchen kann. Ersetze fehlende Belege nicht durch Vermutungen.

Setzen Sie die zu prüfende Antwort ein und verwenden Sie die Tabelle als Suchhilfe, nicht als fertigen Nachweis.

Worauf Sie achten müssen

• Existenz und Aussage sind getrennte Fragen: Ein wirklich erschienenes Buch kann im KI-Text für eine Behauptung genannt werden, die darin gar nicht steht. Beide Prüfschritte sind notwendig.
• Nicht gefunden bedeutet nicht sicher erfunden: Eine Quelle kann anders geschrieben, schlecht erschlossen oder nur gedruckt verfügbar sein. Verwenden Sie bis zur Klärung die Bezeichnung «nicht verifiziert».
• Direkte Zitate brauchen besondere Sorgfalt: Vergleichen Sie Wortlaut und Kontext mit dem Original. Ein Satz in Anführungszeichen wird nicht dadurch zu einem echten Zitat, dass eine Seitenzahl danebensteht.
• Vertrauliche Suchbegriffe vermeiden: Suchen Sie nicht mit vollständigen Kundendossiers oder internen Textpassagen im öffentlichen Netz. Für die Recherche reichen meist Titel und sachliche Begriffe.
• Selbstbestätigung ist kein Nachweis: Die KI kann denselben falschen Beleg erneut nennen. Eine zweite Antwort ersetzt die unabhängige Suche nicht.

Ein Beispiel aus der Praxis

Ein erfundenes Beispiel: Frau Müller bereitet für einen Gewerbeverein in Solothurn einen kurzen Text über KI im Büro vor. Die KI nennt einen angeblichen Fachbericht mit einer auffälligen Erfolgsaussage. Frau Müller findet die herausgebende Organisation, aber keinen Bericht mit dem genannten Titel.

Sie sucht nach Titelteilen und entdeckt einen echten Beitrag, der lediglich mögliche Anwendungen beschreibt. Vorher hätte sie die Erfolgsaussage mitsamt vermeintlichem Beleg übernommen. Nachher streicht sie diese und verwendet nur den nachgelesenen allgemeinen Hinweis mit korrekter Fundstelle.

Für nicht erreichbare Adressen ergänzt die Seite zu erfundenen KI-Links diesen Ablauf. Falls das Alter eines Belegs entscheidend ist, hilft der Aktualitätscheck.

So hilft Ihnen Alpasana

Die KI-Praxiskurse von absofort verbinden konkrete Arbeitsaufgaben mit der Prüfung von KI-Ergebnissen. Im dokumentierten Angebot finden Sie unter anderem Bürokommunikation, Präsentationen und Qualitätsprüfung im Umgang mit KI.

Für Ihre Arbeit können Sie daran üben, einen Entwurf mit nachvollziehbaren Arbeitsunterlagen zu verbinden. Die Entscheidung, ob eine bestimmte wissenschaftliche oder fachliche Aussage ausreichend belegt ist, bleibt bei der dafür zuständigen Person.

Häufige Fragen

Hilft eine DOI bei der Prüfung?

Eine DOI ist eine dauerhafte Kennung für eine Veröffentlichung. Sie hilft beim Auffinden, wenn sie tatsächlich vergeben wurde und zum genannten Werk gehört. Vergleichen Sie trotzdem Titel und Inhalt, denn auch eine solche Kennung kann falsch zugeordnet sein.

Kann ich mich auf den Suchausschnitt verlassen?

Der kurze Text unter einem Suchtreffer reicht für wichtige Belege meist nicht aus. Er kann verkürzt sein oder den entscheidenden Zusammenhang auslassen. Öffnen Sie möglichst das Original und lesen Sie die relevante Passage.

Soll ich alle Quellen gleich ausführlich prüfen?

Prüfen Sie jeden Beleg, den Sie als Begründung veröffentlichen oder für einen wichtigen Entscheid verwenden. Bei einer ersten Ideensammlung können offene Hinweise zunächst als Suchaufträge stehenbleiben. Kennzeichnen Sie sie deutlich, damit sie später nicht versehentlich als geprüft gelten.