KI-Agent stoppen: Was passiert mit laufenden Aufgaben?

Das Problem

Ihr Assistent verhält sich seltsam: Er verschickt Mails, die niemand veranlasst hat. Sie klicken auf «Stopp», atmen auf und gehen zum nächsten Termin. Eine halbe Stunde später erhalten Sie die Meldung, es seien weitere zwölf Mails versendet worden.

Wie ist das möglich? Der Stoppknopf hat nur den Teil angehalten, den er kennt: die laufende Unterhaltung. Aufträge, die bereits an eine Warteschlange übergeben oder in einem anderen System gestartet wurden, liefen weiter. Auch geplante Aufgaben («jeden Morgen um 7 Uhr») bestehen nach einem Stopp meist fort.

Wer einen Agenten einsetzt, sollte deshalb nicht nur wissen, wie man ihn stoppt, sondern auch, was danach noch geschieht. Das lässt sich vorab klären und üben.

Was läuft nach einem Stopp möglicherweise weiter?

So lösen Sie es mit KI – Schritt für Schritt

1. Finden Sie heraus, wie der Stopp funktioniert. Wo ist der Knopf, wer darf ihn drücken, wirkt er sofort oder nach dem aktuellen Schritt? Die Hilfe des Anbieters gibt Auskunft.
2. Fragen Sie nach der Warteschlange. Gibt es vorgemerkte Aufgaben, und was passiert mit ihnen? Lässt sich die Warteschlange leeren oder pausieren?
3. Listen Sie geplante und wiederkehrende Aufgaben. Sie müssen einzeln deaktiviert werden. Notieren Sie, wo das geht.
4. Notieren Sie die Verbindungen. Konten, Schnittstellen, Zugriffe. Wie entziehen Sie ihnen im Notfall die Berechtigung?
5. Testen Sie in der Testumgebung. Starten Sie mehrere Aufgaben, stoppen Sie mittendrin und beobachten Sie, was weiterläuft. Prüfen Sie auch, ob halbfertige Aktionen zurückbleiben.
6. Schreiben Sie eine Notfallkarte. Eine Seite: Wer stoppt (Name, Stellvertretung), Schritte in der Reihenfolge (Agent stoppen, Warteschlange leeren, geplante Aufgaben pausieren, Zugriffe entziehen), wen informieren wir.
7. Prüfen Sie nach jedem Stopp das Protokoll. Welche Aktionen wurden nach dem Stoppzeitpunkt noch ausgeführt? Siehe Agenten-Aktionen nachvollziehen.
8. Korrigieren Sie, was passiert ist. Informieren Sie Betroffene und nehmen Sie Aktionen zurück, siehe Fehlerhafte KI-Aktionen rückgängig machen.

Vorlage zum Kopieren

Mit diesem Auftrag erstellen Sie den Entwurf einer Notfallkarte für das Stoppen eines Agenten. Verwenden Sie keine Zugangsdaten:

Wir betreiben in [Betrieb, Branche] einen KI-Agenten für [Aufgabe]. Er ist verbunden mit: [Liste der Werkzeuge].
Er arbeitet über [Programm/Dienst, falls bekannt]. Es gibt [geplante Aufgaben / Warteschlange: ja/nein/unklar].
Erstelle eine einseitige Notfallkarte «Agent stoppen» mit:
1. Schritten in sinnvoller Reihenfolge (Agent anhalten, Warteschlange und geplante Aufgaben prüfen, Zugriffe entziehen, Protokoll sichern).
2. Fragen, die wir vorab beim Anbieter oder der IT klären müssen (Was passiert mit laufenden Aufgaben? Wie leeren wir die Warteschlange?).
3. Einer Liste, wen wir informieren (intern, Kundschaft, Lieferanten).
4. Einer Prüfliste nach dem Stopp (Was wurde noch ausgeführt? Was muss korrigiert werden?).
Schreibe in einfacher Sprache und behaupte nichts über konkrete Produkte.

Ergänzen Sie die Karte mit den tatsächlichen Namen und Wegen und legen Sie sie an einen Ort, den alle kennen.

Worauf Sie achten müssen

• Zeitverzögerung: Zwischen Stopp und tatsächlichem Halt kann Zeit vergehen. Aktionen mit Wirkung nach aussen lassen sich dann nicht mehr abfangen.
• Zuständigkeit: Wenn nur eine Person den Stopp kennt, ist sie im Urlaub nicht erreichbar. Benennen Sie Stellvertretungen.
• Aussen angestossene Aktionen: Eine Mail, die den Server verlassen hat, kommt nicht zurück. Deshalb sind Freigaben vor dem Senden wertvoll, siehe Freigabe vor Aktionen.
• Manipulation: War der Agent durch versteckte Anweisungen gelenkt, kann die Ursache weiterbestehen. Prüfen Sie Eingangsquellen, bevor Sie neu starten.
• Fehlalarm vermeiden: Wer zu schnell stoppt, verliert Arbeit. Legen Sie fest, bei welchen Anzeichen sofort gestoppt wird.
• Dokumentation: Halten Sie fest, was passiert ist. Das hilft bei der Aufarbeitung und bei möglichen Meldungen. Der Rahmen des NIST AI Risk Management Framework empfiehlt, Verfahren für Vorfälle vorzubereiten.

Ein Beispiel aus der Praxis

Ein Beispiel: Eine Eventagentur in Luzern lässt einen Assistenten Einladungen an Gäste verschicken. Als er bei einigen Adressen das falsche Datum nennt, stoppt die Assistentin den Agenten.

Vorher: Sie weiss nicht, dass 80 weitere Einladungen in einer Warteschlange liegen und ein geplanter Lauf am nächsten Morgen weitere Gäste anschreibt. Am Abend gehen zusätzliche 40 falsche Mails raus.

Nachher: Die Notfallkarte nennt die Schritte: Agent stoppen, Warteschlange leeren, geplante Läufe pausieren, Versandkonto sperren, Protokoll prüfen, Korrekturmail vorbereiten. Beim nächsten Fehler sind nach drei Minuten alle Wege gesperrt, und nur eine Gruppe von zehn Gästen erhält die falsche Information, was die Agentur gleichentags richtigstellt.

So hilft Ihnen Alpasana

Wer KI-Agenten in Prozesse einbindet, sollte Einsatzregeln und Notfallabläufe im Pilot festlegen. Die KI-Beratung und digitale Transformation von Alpasana unterstützt bei der Integration von KI-Agenten mit Anwendungsfall, Pilot, Einsatzregeln und Skalierung, beim Entwickeln digitaler Workflows und Automatisierungen und beim Dokumentieren der Umsetzung. Projekte werden individuell offeriert.

Häufige Fragen

Wer soll den Agenten stoppen dürfen?

Mindestens zwei Personen, damit immer jemand erreichbar ist. Alle Beteiligten sollten wissen, dass sie im Zweifel stoppen dürfen und niemand dafür kritisiert wird.

Reicht es, das Konto des Agenten zu sperren?

Es ist eine wirksame Massnahme, weil der Agent dann keine Rechte mehr hat. Prüfen Sie aber, ob er noch über andere Verbindungen Zugriff hat.

Wie üben wir das?

Mit einem Probealarm in der Testumgebung: Agent starten, mitten im Lauf stoppen, kontrollieren, was weiterläuft, und die Notfallkarte verbessern.