Erfundene Urteile erkennen: KI-Recherche in der Kanzlei

Das Problem

Eine Mitarbeiterin bittet eine KI um Rechtsprechung zu einer Frage und erhält drei Urteile mit Gericht, Datum und Aktenzeichen. Alles sieht überzeugend aus. Doch wenn sie das Urteil nachschlagen möchte, findet sie es nicht. Oder es existiert, sagt aber etwas ganz anderes.

Das ist kein Einzelfall. KI-Sprachmodelle erzeugen Texte, die plausibel klingen, aber nicht immer wahr sind. Man nennt das Halluzination. Das ist ein Fachbegriff dafür, dass die KI etwas erfindet und dabei sicher auftritt. Gerade bei Quellenangaben ist das gefährlich, weil sie so genau aussehen.

In den USA wurde 2023 ein Fall bekannt, in dem Anwälte Schriftsätze mit von ChatGPT erfundenen Urteilen einreichten (Mata gegen Avianca). Das führte zu Sanktionen. Für Schweizer Kanzleien gilt dasselbe Prinzip: Wer zitiert, haftet für die Richtigkeit.

So lösen Sie es mit KI – Schritt für Schritt

1. Alle KI-Quellen als Hinweis behandeln. Notieren Sie jede von der KI genannte Quelle in einer Liste mit dem Vermerk «ungeprüft». Sie gilt als Suchhinweis, nicht als Beleg.

1. Offizielle Datenbanken nutzen. Suchen Sie Bundesgerichtsentscheide auf der Website des Bundesgerichts (bger.ch), kantonale und weitere Entscheide etwa über entscheidsuche.ch oder die Seiten der Gerichte. Gesetze finden Sie auf fedlex.admin.ch.

1. Aktenzeichen exakt prüfen. Stimmen Gericht, Jahr, Nummer und Abteilung? Gibt es den Entscheid, und ist er veröffentlicht?

1. Das Urteil selbst lesen. Öffnen Sie den Volltext. Sucht die KI aus einem Urteil einen Leitsatz, finden Sie die entsprechende Stelle? Kopieren Sie Zitate nur aus dem Original.

1. Inhalt gegen Behauptung prüfen. Sagt das Urteil wirklich, was die KI behauptet? Prüfen Sie Sachverhalt, Ergebnis und Begründung. Achten Sie auf spätere Entscheide, die die Praxis geändert haben.

1. Ergebnis in der Liste festhalten. Vermerken Sie «geprüft am [Datum] durch [Kürzel]» oder «nicht auffindbar, gestrichen».

1. Zweite Person gegenlesen lassen. Bei Schriftsätzen kontrolliert eine zweite Person die Quellenliste stichprobenartig oder vollständig.

1. Erkenntnisse im Team teilen. Notieren Sie, welche KI-Fehler aufgetreten sind. So lernen alle, wo Vorsicht nötig ist.

Vorlage zum Kopieren

Ich recherchiere zu folgender Rechtsfrage nach Schweizer Recht: [Rechtsfrage].
Nenne mir mögliche Suchbegriffe, einschlägige Gesetzesartikel (nur wenn du sicher bist) und Themenbereiche der Rechtsprechung, die ich in offiziellen Datenbanken nachschlagen kann.
Wichtig:
- Nenne keine Urteile oder Aktenzeichen, wenn du dir nicht absolut sicher bist.
- Markiere jede Angabe als «sicher», «vermutet» oder «bitte prüfen».
- Weise darauf hin, dass ich alle Quellen im Original überprüfen muss.
Gib die Antwort als Liste mit Suchbegriffen und Prüfhinweisen.

Passen Sie die Rechtsfrage an und verwenden Sie die Antwort nur als Suchhilfe in der Datenbank.

Worauf Sie achten müssen

• Überzeugender Ton: KI formuliert auch Erfundenes selbstsicher. Je genauer eine Angabe aussieht, desto wichtiger ist die Kontrolle.
• Falsche Zuordnung: Manchmal ist das Urteil echt, aber die Aussage falsch zugeordnet. Lesen Sie den Volltext.
• Veraltete Rechtslage: Gesetze und Praxis ändern sich. KI-Wissen kann veraltet sein. Prüfen Sie Gesetzesstände auf fedlex.admin.ch.
• Spezialisierte Werkzeuge: Auch juristische KI-Angebote können Fehler machen. Fragen Sie nach Quellenlinks und prüfen Sie diese. Eine Hilfe für die Auswahl bietet Legal-Tech-Werkzeuge auswählen.
• Berufspflichten: Sorgfalt und Wahrheitspflicht gelten auch bei KI-Einsatz. Mandantendaten gehören nicht ungeschützt in KI-Dienste.

Ein Beispiel aus der Praxis

Ein Beispiel: In einer Kanzlei in Basel recherchiert eine Praktikantin mit KI zu einer Frage des Mietrechts. Sie erhält vier Entscheide mit Aktenzeichen und freut sich über die schnelle Antwort.

Die Anwältin lässt die Liste prüfen. Zwei Entscheide existieren, einer ist mit falscher Nummer angegeben und einer lässt sich nicht finden. Bei einem der echten Urteile betrifft der Inhalt eine andere Frage als behauptet. Nur ein Entscheid trägt das Argument. Das Team führt daraufhin die Checkliste ein. Verwendet wird die KI weiterhin, aber für Suchbegriffe und Strukturierung, nicht als Quelle. Die Grundregeln dafür sind in der Vorlage für Nutzungsregeln beschrieben.

So hilft Ihnen Alpasana

Wenn Ihr Team gemeinsame Regeln für den KI-Einsatz braucht, hilft die KI-Weiterbildung für Unternehmen von absofort. Dort lernen Mitarbeitende, Ergebnisse und Daten sorgfältig zu behandeln. Datenschutz nach Schweizer Praxis und der EU AI Act bei EU-Bezug sind Lerninhalte.

Die Weiterbildung läuft online im eigenen Tempo, mit verifizierbaren Abschlüssen. Für Firmenlösungen und Teambuchungen gibt es eine Kontaktmöglichkeit. Juristische Recherche selbst ist nicht Teil des Angebots.

Häufige Fragen

Kann ich der KI sagen, sie solle keine Urteile erfinden?

Die Anweisung hilft ein wenig, garantiert aber nichts. Auch bei klaren Vorgaben kann es zu Fehlern kommen. Deshalb bleibt die Prüfung in der offiziellen Datenbank Pflicht.

Sind KI-Werkzeuge mit Quellenangaben sicherer?

Sie erleichtern die Prüfung, weil Sie auf die Quelle klicken können. Dennoch kann die Zusammenfassung die Quelle falsch wiedergeben. Lesen Sie das Original.

Was tun, wenn ein erfundenes Urteil schon in einem Entwurf steht?

Streichen Sie es sofort und prüfen Sie den ganzen Entwurf nach weiteren KI-Quellen. Legen Sie fest, wie solche Fälle im Team gemeldet werden. Mehr zu den Hintergründen unter Halluzinationen einfach erklärt.