Fehlerhafte KI-Aktionen rückgängig machen: Vorher planen

Das Problem

Ein KI-Assistent hat in Ihrem Namen etwas getan, das nicht hätte passieren sollen: Termine im Kalender verschoben, Preise in einer Tabelle überschrieben, eine Mail an die falsche Gruppe geschickt. Nun fragen alle: «Können wir das zurückholen?» Die Antwort lautet je nach Aktion «ja, mit einem Klick», «ja, aber aufwendig» oder «nein».

Das Schlimme ist nicht der Fehler selbst, sondern dass niemand vorher überlegt hat, wie man ihn korrigiert. Wer erst im Ernstfall nach dem Änderungsverlauf sucht oder feststellt, dass es keine Sicherung gibt, verliert Zeit und manchmal Daten.

Deshalb gehört zur Planung eines KI-Einsatzes die Frage: Was ist, wenn es falsch läuft? Wir unterscheiden Aktionen nach ihrer Umkehrbarkeit und planen für jede Gruppe das passende Vorgehen.

Was lässt sich zurücknehmen?

Ein ähnlicher Grundsatz steht im Rahmenwerk des NIST AI Risk Management Framework: Risiken vorab erkennen und Massnahmen für den Ernstfall planen.

So lösen Sie es mit KI – Schritt für Schritt

1. Listen Sie die Aktionen des Agenten auf. Was kann er verändern, senden, löschen, auslösen? Das ist Ihr Inventar möglicher Fehler.
2. Ordnen Sie jede Aktion einer Gruppe zu. Leicht umkehrbar, aufwendig, kaum oder nicht umkehrbar. Bei Unsicherheit gehen Sie vom ungünstigeren Fall aus.
3. Aktivieren Sie Verläufe. Versionsverlauf in Dokumenten, Änderungsprotokoll in Tabellen und Datenbanken, Papierkorb mit Aufbewahrungsfrist. Prüfen Sie, wie lange diese Daten erhalten bleiben.
4. Sichern Sie vor dem Einsatz. Eine aktuelle Sicherung der betroffenen Daten, getrennt gespeichert. Testen Sie, ob sich daraus wiederherstellen lässt.
5. Schränken Sie kaum umkehrbare Aktionen ein. Sie laufen nur nach Freigabe durch eine Person, siehe Freigabe vor Aktionen.
6. Sorgen Sie für Nachvollziehbarkeit. Ein Protokoll zeigt, was der Agent wann getan hat. Ohne das wissen Sie nicht, was zurückzunehmen ist, siehe Agenten-Aktionen nachvollziehen.
7. Schreiben Sie einen Rückabwicklungsplan. Pro Gruppe: Wer macht was, wen informieren wir (Kundschaft, Lieferanten), wie lange darf es dauern? Eine Seite genügt.
8. Üben Sie einmal. Lassen Sie den Agenten in der Testumgebung etwas Falsches tun und spielen Sie die Korrektur durch. So merken Sie, was fehlt.

Vorlage zum Kopieren

Mit diesem Auftrag erstellen Sie den Entwurf eines Rückabwicklungsplans. Verwenden Sie keine echten Daten:

Unser KI-Agent kann folgende Aktionen ausführen: [Liste, z. B. Kalendereinträge ändern, Dateien verschieben, E-Mails senden, Tabellen bearbeiten].
Betrieb: [Branche, Grösse]. Systeme: [z. B. Microsoft 365, Dateiablage, Buchhaltungssoftware].
Erstelle eine Tabelle mit den Spalten: Aktion | umkehrbar? (leicht/aufwendig/kaum/nicht) | Wie zurückholen? | Was müssen wir vorher einrichten (Verlauf, Sicherung, Freigabe)? | Wer ist zuständig? | Wen müssen wir informieren?
Schreibe in einfacher Sprache. Behaupte nichts über Funktionen konkreter Produkte, sondern nenne, was wir bei jedem System prüfen müssen. Markiere Aktionen, die wir nur mit Freigabe zulassen sollten.

Ergänzen Sie die Tabelle mit den Angaben Ihrer IT und legen Sie sie dem Team vor.

Worauf Sie achten müssen

• Fristen: Papierkorb und Versionsverlauf behalten Daten nur begrenzte Zeit. Prüfen Sie, wie lange.
• Sicherungen testen: Eine Sicherung, die sich nicht wiederherstellen lässt, ist wertlos. Siehe auch Konfiguration sichern und wiederherstellen.
• Kettenreaktionen: Eine falsche Änderung kann Folgeaktionen auslösen, etwa Benachrichtigungen oder Berechnungen. Prüfen Sie, was daran hängt.
• Aussenwirkung: Hat ein Fehler Kundinnen oder Lieferanten erreicht, kommen Kommunikation und Entschuldigung dazu, nicht nur Technik.
• Daten Dritter: Wurden personenbezogene Daten fälschlich weitergegeben, können Meldepflichten bestehen. Siehe Sicherheitsvorfall-Protokoll. Bei Unsicherheit holen Sie Fachrat ein.
• Notbremse: Zum Plan gehört, den Agenten rasch anzuhalten, siehe Notabschaltung vorbereiten.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Personalbüro in St. Gallen lässt einen Assistenten Stammdaten in einer Excel-Liste aktualisieren: Adressänderungen aus Mails übernehmen.

Vorher: Nach einem Fehler hat der Assistent in 60 Zeilen die Telefonnummern vertauscht. Niemand weiss, welche, es gibt keine Sicherung, und der Verlauf der Datei ist abgeschaltet.

Nachher: Das Büro aktiviert den Versionsverlauf der Datei, sichert sie täglich und lässt den Assistenten Änderungen nur in einer Kopie vornehmen. Eine Mitarbeiterin vergleicht die Kopie mit dem Original, bevor sie übernommen wird. Ein Plan regelt, wen sie bei einem Fehler benachrichtigt und wie die letzte gute Version wiederhergestellt wird.

So hilft Ihnen Alpasana

Wer KI-Agenten in Abläufe einbindet, sollte Pilot, Einsatzregeln und Notfallpläne zusammen planen. Die KI-Beratung und digitale Transformation von Alpasana unterstützt bei der Integration von KI-Agenten mit Anwendungsfall, Pilot, Einsatzregeln und Skalierung sowie beim Aufnehmen und Priorisieren von Prozessen und beim Dokumentieren der Umsetzung. Projekte werden individuell offeriert.

Häufige Fragen

Reicht der Papierkorb als Absicherung?

Nein, er hat Fristen und deckt nur Löschungen ab, nicht falsche Änderungen. Kombinieren Sie ihn mit Versionsverlauf und Sicherung.

Was ist mit versendeten E-Mails?

Sie lassen sich in der Regel nicht zurückholen. Deshalb sollte ein Agent Mails an Externe nicht ohne Freigabe senden, siehe E-Mails nicht automatisch senden.

Wie oft soll ich den Rückweg üben?

Einmal vor dem Start und danach jährlich oder bei grösseren Änderungen. Wichtig ist, dass jemand weiss, wo die Anleitung liegt und wer zuständig ist.