Erfindet KI Gerichtsurteile und wie erkenne ich das?

Das Problem

Frau Müller möchte wissen, ob ihre Firma eine Kündigungsfrist einhalten muss. Sie fragt eine KI, und die Antwort klingt überzeugend: «Das Bundesgericht hat dies im Urteil 4A_312/2021 vom 14. März 2022 bestätigt.» (Die Nummer ist hier frei erfunden, genau wie in solchen KI-Antworten.) Sie notiert die Nummer und will sie im Brief an die Gegenseite zitieren.

Hier lauert eine bekannte Falle. KI-Sprachmodelle erzeugen Texte, die plausibel klingen, auch dann, wenn die Grundlage fehlt. Sie «erinnern» sich nicht wie eine Datenbank, sondern berechnen, welche Wörter wahrscheinlich folgen. Ein Aktenzeichen im richtigen Format, ein passendes Datum und eine stimmige Zusammenfassung lassen sich so erzeugen, ohne dass es das Urteil gibt. Diese Fehler nennt man Halluzinationen.

Dass das reale Folgen haben kann, zeigte ein viel beachteter Fall in den USA 2023: Anwälte reichten bei Gericht Entscheide ein, die ein Chatprogramm erfunden hatte, und wurden dafür gerügt. Auch in der Schweiz sollte niemand ungeprüft zitieren.

So lösen Sie es mit KI – Schritt für Schritt

1. Betrachten Sie jede Fundstelle als Behauptung. Alles, was die KI an Urteilen, Aktenzeichen, Gesetzesartikeln oder Zitaten nennt, ist zunächst unbestätigt.

1. Notieren Sie die genauen Angaben. Halten Sie Gericht, Aktenzeichen, Datum und die behauptete Aussage fest. Schweizer Bundesgerichtsurteile haben Nummern wie «4A_123/2020» oder, bei Leitentscheiden, «BGE 145 III 229».

1. Suchen Sie in der amtlichen Datenbank. Das Bundesgericht veröffentlicht seine Entscheide auf bger.ch; Entscheide vieler Gerichte lassen sich auch über das Portal entscheidsuche.ch durchsuchen. Geben Sie das Aktenzeichen exakt ein. Kantonale Gerichte haben eigene Seiten.

1. Prüfen Sie, ob der Entscheid die Aussage trägt. Selbst wenn es ihn gibt, kann er etwas anderes sagen. Lesen Sie die Erwägungen und achten Sie auf Rechtsgebiet, Zeitpunkt und Ausgangslage.

1. Prüfen Sie Gesetzesverweise ebenfalls. Nutzen Sie die Fassung auf Fedlex (Bundesrecht) oder die kantonalen Gesetzessammlungen und prüfen Sie, ob der Artikel gilt und das sagt, was behauptet wird.

1. Lassen Sie die KI nur beim Suchen helfen. Bitten Sie sie um Suchbegriffe, Rechtsgebiete und Fragen, nicht um fertige Zitate. Hilfreich ist die Vorlage unten.

1. Dokumentieren Sie die Prüfung. Speichern Sie den Link oder die Datei des Originals neben Ihrem Dokument. So belegen Sie später, woher Sie die Aussage haben.

1. Holen Sie bei Wichtigem Rat. Wenn eine Entscheidung auf einem Urteil beruht, lassen Sie die Rechtslage von einer Fachperson beurteilen; siehe Rechtliche Recherche mit KI.

Ein zusätzlicher Warnhinweis: Auch Übersetzungen oder Zusammenfassungen von Urteilen können Inhalte verfälschen. Eine KI, die ein echtes Urteil «kurz erklärt», lässt gelegentlich Einschränkungen weg, etwa dass der Entscheid nur einen Sonderfall betrifft. Lesen Sie deshalb bei wichtigen Punkten die Erwägungen selbst, mindestens den Abschnitt, auf den sich die Aussage stützt.

Vorlage zum Kopieren

Ich recherchiere zur Frage: [Rechtsfrage in einem Satz]. Rechtsordnung: Schweiz.
Hilf mir bei der Suche, aber nenne KEINE Urteilsnummern, Aktenzeichen oder wörtlichen Zitate.
Gib mir stattdessen:
1. Die Rechtsgebiete und die wahrscheinlich relevanten Gesetze (nur Namen, ohne Artikelnummern, wenn du dir nicht sicher bist)
2. Zehn Suchbegriffe, mit denen ich in Gerichtsdatenbanken suchen kann
3. Fragen, die ich klären muss, bevor ich die Antwort verwenden kann
4. Hinweise, wo ich die Originalquellen finde
Markiere alle Aussagen, die du nicht sicher weisst, mit [UNSICHER].

Ersetzen Sie die Rechtsfrage. So erhalten Sie Suchhilfe statt vermeintlicher Belege.

Worauf Sie achten müssen

• Selbstsicherer Ton: KI formuliert auch erfundene Angaben überzeugend. Der Ton sagt nichts über Richtigkeit.
• Halbwahrheiten: Ein Urteil kann existieren und trotzdem falsch wiedergegeben sein.
• Falsche Rechtsordnung: Die KI kann Entscheide aus Deutschland oder den USA als Schweizer Recht darstellen; siehe Schweiz, Deutschland oder Österreich.
• Veraltete Rechtslage: Gesetze ändern sich. Prüfen Sie die aktuelle Fassung.
• Haftung: Wer ein erfundenes Urteil in ein Schreiben an Gericht oder Gegenpartei übernimmt, trägt die Verantwortung dafür.
• Suchtools mit Quellen: Auch Werkzeuge, die Quellen anzeigen, können Quellen falsch zusammenfassen. Öffnen Sie sie.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Immobilienverwalter in Zug will einem Mieter schreiben, dass eine bestimmte Praxis «gemäss Bundesgerichtsurteil» zulässig sei. Die KI hat ihm ein Urteil samt Datum genannt.

Vorher: Er wollte die Nummer direkt in den Brief setzen. Nachher: Er sucht in der Datenbank, findet das Aktenzeichen nicht und stösst auf einen anderen Entscheid, der in die gegenteilige Richtung geht. Der Brief nennt kein Urteil, sondern beschränkt sich auf den Vertragstext. Für die offene Rechtsfrage fragt der Verwalter die Verwaltungsjuristin seines Verbands.

So hilft Ihnen Alpasana

Wer lernen möchte, KI so zu beauftragen, dass Suchhilfe und Quellenprüfung sauber getrennt bleiben, findet bei absofort den Kurs Prompt Engineering. Sie lernen, Aufgabe, Rolle, Kontext, Ziel und Ausgabeformat festzulegen, Prompts zu überarbeiten und Ergebnisse zu prüfen, ohne Programmierkenntnisse; der Online-Kurs schliesst mit Zertifikat ab.

Der Kurs vermittelt Arbeitsweisen, keine Rechtsberatung. Für rechtliche Fragen konsultieren Sie weiterhin eine Fachperson.

Häufige Fragen

Wie häufig sind erfundene Urteile?

Dazu gibt es keine verlässliche Faustzahl, die für alle Werkzeuge gilt. Wichtig ist: Es kann jederzeit passieren, deshalb prüfen Sie immer.

Gilt das auch für KI-Suchmaschinen mit Quellenangaben?

Bei solchen Werkzeugen sind Quellen oft verlinkt, aber nicht immer korrekt wiedergegeben. Öffnen Sie die Quelle und lesen Sie die Stelle selbst.

Kann ich auch Gesetzestexte von der KI zitieren lassen?

Lassen Sie sich die Fundstelle nennen, aber lesen Sie den Text auf der amtlichen Seite. Die KI kann Artikelnummern verwechseln.

Was tue ich, wenn ich ein erfundenes Urteil schon verwendet habe?

Korrigieren Sie es so schnell wie möglich gegenüber den Empfängern. Bei Schreiben an Gerichte oder Behörden holen Sie fachlichen Rat, wie Sie die Korrektur formulieren.