KI-Fehler mit Schaden: Welche Beweise sollten wir sichern?

Das Problem

Ihr Betrieb hat sich auf eine KI-Auskunft verlassen: Eine falsch berechnete Offerte ging an den Kunden, ein erfundener Gesetzesverweis landete in einem Schreiben, eine Zusammenfassung liess einen Vertragspunkt weg. Nun entsteht ein Schaden: Geld ist verloren, eine Frist verpasst, ein Kunde verärgert. Vielleicht überlegen Sie, ob jemand anderes dafür einstehen muss, der Anbieter des Werkzeugs, ein Lieferant oder die Versicherung.

Der erste Reflex ist, den Fehler zu beheben: Text ändern, neu anfragen, Verlauf löschen. Damit verschwinden aber oft genau die Spuren, die später wichtig sein könnten. KI-Ergebnisse sind nicht wiederholbar. Fragen Sie dasselbe nochmals, kommt womöglich eine andere Antwort, und der ursprüngliche Fehler lässt sich nicht mehr zeigen.

Mit einer klaren Reihenfolge sichern Sie Beweise zuerst und beheben den Schaden danach. Diese Seite ersetzt keine Rechtsberatung. Ob und gegen wen Ansprüche bestehen, hängt vom Einzelfall ab und wird von einer Fachperson beurteilt.

So lösen Sie es mit KI – Schritt für Schritt

1. Stopp: Verändern oder löschen Sie nichts, auch nicht den fehlerhaften Text oder den Chat. Notieren Sie, wer den Vorfall entdeckt hat und wann.
2. Eingabe und Ausgabe sichern: Speichern Sie die Eingabe (Prompt, Fragen, Dateien) und die Ausgabe der KI als Bildschirmfoto mit Datum und Uhrzeit sowie als Textdatei. Exportieren Sie den Chatverlauf, falls die Funktion besteht.
3. Werkzeug und Stand festhalten: Notieren Sie Name, Tarif, Modellbezeichnung (soweit sichtbar), Einstellungen und Zeitpunkt der Nutzung. Sichern Sie die Bedingungen des Anbieters als Datei.
4. Verwendete Unterlagen sichern: Bewahren Sie die Dateien auf, die Sie der KI gegeben haben, und die Quellen, mit denen Sie hätten prüfen können.
5. Ihren Umgang dokumentieren: Halten Sie fest, wer das Ergebnis geprüft hat, welche Kontrollen üblich waren und wann das Ergebnis weiterverwendet wurde. Das ist für die Bewertung wichtig.
6. Schaden belegen: Sammeln Sie Rechnungen, Mahnungen, Korrespondenz mit Betroffenen, Fristen und Kosten, die durch den Fehler entstanden sind.
7. Protokolle sichern: Wenn Ihr System Logdateien führt, sichern Sie die betroffenen Einträge, siehe Protokollierung.
8. Beteiligte informieren: Melden Sie den Vorfall intern an die zuständige Person und, falls vertraglich nötig, an Versicherung oder Anbieter. Klären Sie vorher, wie Sie dabei vorgehen.
9. Fachrat einholen: Besprechen Sie das weitere Vorgehen mit Rechtsberatung und Versicherung, bevor Sie Ansprüche erheben oder anerkennen.

Vorlage zum Kopieren

Diese Vorlage hilft bei einem Protokoll. Fügen Sie darin keine vertraulichen Inhalte aus dem Vorfall ein, sondern nur Verweise.

Erstelle mir ein Beweissicherungsprotokoll für einen Schaden durch einen KI-Fehler.
Spalten: Nr. | Datum und Uhrzeit | Was wurde gesichert? | Art (Prompt, Ausgabe, Datei, Log, Vertrag, Korrespondenz, Schadenbeleg) |
Ablageort (Dateiname/Ordner) | gesichert von | Bemerkung.
Füge hinzu:
1. eine Checkliste mit 15 Punkten, was bei einem KI-Schadensfall zu sichern ist,
2. eine Zeitleiste-Vorlage «Wann/Was/Wer» für den Ablauf des Vorfalls,
3. 6 Fragen, die wir mit Rechtsberatung und Versicherung klären sollten.
Gib keine Rechtsberatung und erfinde keine Fristen. Sprache: Deutsch (Schweiz).

Füllen Sie das Protokoll laufend aus. Bewahren Sie Originale unverändert und mit Sicherungskopie auf.

Worauf Sie achten müssen

• Nicht wiederholbar: Neu gestellte Fragen führen zu anderen Ergebnissen. Verwenden Sie nur den gesicherten Originalstand als Beleg.
• Verlauf löschen vermeiden: Wenn der Chatverlauf nach einer Frist automatisch gelöscht wird, exportieren Sie ihn rasch. Prüfen Sie die Einstellungen.
• Datenschutz: Gesicherte Unterlagen können Personendaten enthalten. Schränken Sie den Zugriff ein und löschen Sie später, was nicht mehr nötig ist.
• Nichts vorschnell zugeben: Äussern Sie sich gegenüber Betroffenen sachlich und warten Sie rechtlichen Rat ab, bevor Sie Verantwortung anerkennen.
• Anbieter-Bedingungen: Sie regeln oft Haftung und Meldefristen. Lesen Sie, was dazu steht, siehe Haftungsausschluss.
• Meldepflichten: Je nach Fall können Melde- oder Informationspflichten bestehen, etwa bei Datenpannen. Klären Sie das umgehend, siehe Datenpanne: Sofortmassnahmen.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Bauunternehmen in Wohlen schickt eine Offerte, die mit KI vorbereitet wurde. Eine Position wurde doppelt gerechnet, der Betrag ist zu tief. Der Kunde nimmt an, und der Betrieb muss eine Mindereinnahme verkraften.

Vorher: Die Mitarbeiterin korrigiert die Position in der Datei, löscht den Chat und stellt die Frage neu, um zu sehen, ob der Fehler wieder auftritt. Die ursprüngliche Antwort ist weg, und man kann nicht mehr zeigen, wie der Fehler entstanden ist.

Nachher: Beim nächsten Vorfall sichert der Betrieb zuerst Prompt, Ausgabe, Werkzeugangaben und Bedingungen, notiert Kontrollen und den Schaden und informiert die zuständige Person. Dann berät er mit Rechtsberatung und Versicherung, ob Ansprüche in Frage kommen, und passt den Prüfprozess an.

So hilft Ihnen Alpasana

Die KI-Kurse für konkrete Arbeitsaufgaben von absofort behandeln laut Angebotsbeschreibung unter anderem Claude mit Projektstruktur, Prompt-Bibliothek, Qualitätsprüfung und Einsatzregeln sowie betriebliche KI-Richtlinien. Praxisaufgaben und ein KI-Lerncoach begleiten das Lernen. So üben Sie, Ergebnisse systematisch zu prüfen und Abläufe sauber zu dokumentieren. Rechtsberatung gehört nicht dazu.

Häufige Fragen

Soll ich die Frage nochmals stellen, um den Fehler zu zeigen?

Sichern Sie zuerst den ursprünglichen Stand. Danach können Sie nochmals fragen, aber als zusätzliche, getrennt gesicherte Beobachtung. Die erste Antwort bleibt Ihr Beleg.

Was, wenn der Chatverlauf nicht mehr vorhanden ist?

Prüfen Sie, ob der Anbieter Daten zur Verfügung stellen kann, und rekonstruieren Sie, was möglich ist. Beim nächsten Mal sichern Sie sofort. Hinweise zum Speichern: Chatverlauf.

Muss ich dem Anbieter den Fehler melden?

Das hängt von Vertrag und Fall ab. Lesen Sie die Bedingungen und lassen Sie sich beraten, bevor Sie Verantwortung zuweisen oder anerkennen.

Wer trägt den Schaden?

Das lässt sich pauschal nicht sagen. Es hängt von Rollen, Vertrag, Sorgfalt und Rechtslage ab. Einen Überblick bietet Wer haftet bei Produktfehlern?.