KI-Agent über Nacht laufen lassen: Was vorher prüfen?

Das Problem

Der Assistent hat über Tage zuverlässig gearbeitet, wenn jemand daneben sass. Nun möchten Sie ihn über Nacht oder am Wochenende laufen lassen: Daten aufbereiten, Berichte erstellen, Anfragen vorsortieren. Das ist verlockend, denn dann ist am Montagmorgen alles erledigt.

Unbeaufsichtigt heisst aber: Niemand sieht, wenn etwas schiefgeht. Fehler summieren sich, Aktionen wiederholen sich, Kosten laufen auf, und falsche Mails sind schon draussen, bevor jemand es merkt. Anders als tagsüber greift niemand ein.

Wer die Verantwortung trägt, will deshalb wissen: Unter welchen Voraussetzungen ist es vertretbar, den Agenten allein zu lassen? Die Antwort ist eine Prüfung in mehreren Stufen, die wir hier als Checkliste ordnen.

Welche Voraussetzungen sollten erfüllt sein?

So lösen Sie es mit KI – Schritt für Schritt

1. Beginnen Sie unter Aufsicht. Lassen Sie den Agenten zuerst tagsüber laufen, während jemand zusieht. Notieren Sie Auffälligkeiten.
2. Starten Sie mit kurzen, unkritischen Läufen. Zum Beispiel eine Stunde am Abend mit einer Aufgabe, bei der kein Schaden entstehen kann. Danach Protokoll prüfen.
3. Gehen Sie die Checkliste durch. Die Tabelle oben: Jede Zeile muss mit «ja» beantwortet sein, oder die Aufgabe ist noch nicht reif.
4. Begrenzen Sie die Wirkung. Der Agent bereitet vor und legt Ergebnisse in einen Ordner. Aktionen nach aussen übernehmen am nächsten Tag Menschen nach Freigabe. Siehe Freigabe vor Aktionen.
5. Richten Sie Limits und Abbruchregeln ein. Laufzeit, Wiederholungen, Kosten, siehe Endlosschleife stoppen.
6. Richten Sie Alarme ein. Eine Meldung bei Fehlern, ungewöhnlich langer Laufzeit oder hohem Verbrauch, an eine Person, die erreichbar ist. Siehe Unerlaubte Zugriffe und Alarme.
7. Bereiten Sie Notstopp und Rückweg vor. Wer kann nachts stoppen, wie? Was lässt sich zurücknehmen? Siehe Notstopp und Fehler rückgängig machen.
8. Prüfen Sie am Morgen und weiten Sie schrittweise aus. Protokoll lesen, Stichproben kontrollieren. Erst nach mehreren sauberen Nächten längere oder breitere Läufe zulassen.

Vorlage zum Kopieren

Mit diesem Auftrag erstellen Sie eine Betriebsbereitschafts-Checkliste. Verwenden Sie keine echten Zugangsdaten:

Wir möchten einen KI-Agenten unbeaufsichtigt über Nacht laufen lassen. Aufgabe: [Beschreibung]. Werkzeuge und Zugriffe: [Liste]. Betrieb: [Branche, Grösse].
Erstelle eine Checkliste «Betriebsbereitschaft» mit den Bereichen: Aufgabe und Testläufe, Rechte, erlaubte und verbotene Aktionen, Limits (Zeit, Wiederholungen, Kosten), Abbruchregeln, Alarmierung, Notstopp, Sicherung und Rückweg, Datenschutz, Protokoll und Morgenkontrolle.
Formuliere je Bereich 2 bis 4 Prüffragen, die mit ja oder nein beantwortet werden können, und gib an, was bei «nein» zu tun ist.
Behaupte nichts über Funktionen konkreter Produkte, sondern nenne, was wir in den Einstellungen prüfen sollen. Markiere Punkte, die wir mit der IT klären müssen.

Besprechen Sie die Checkliste mit IT und Verantwortlichen und gehen Sie sie vor dem ersten Lauf Punkt für Punkt durch.

Worauf Sie achten müssen

• Zeit ohne Reaktion: Fehler in der Nacht bleiben bis zum Morgen unbemerkt. Alarme und Limits sind unverzichtbar.
• Wirkung nach aussen: Alles, was Mails, Bestellungen oder Zahlungen auslöst, gehört nicht in den Nachtbetrieb ohne Freigabe.
• Versteckte Anweisungen: Ohne Aufsicht fällt eine Manipulation nicht auf. Siehe Was ist Prompt Injection?. Das OWASP-Projekt nennt übermässige Handlungsfreiheit als Hauptrisiko.
• Updates: Nach Änderungen am Werkzeug oder Modell kann sich das Verhalten ändern. Wiederholen Sie dann die Beobachtungsphase.
• Verantwortung: Auch nachts bleibt der Betrieb verantwortlich. Benennen Sie, wer erreichbar ist.
• Risikorahmen: Das NIST AI Risk Management Framework empfiehlt, Systeme laufend zu überwachen.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Onlinehandel für Heimtextilien in Aarau möchte, dass ein Assistent jede Nacht Produktbeschreibungen überarbeitet und Preise gegen eine Liste abgleicht.

Vorher: Der Agent läuft ohne Limits mit Schreibrecht auf der Shop-Datenbank. In einer Nacht ändert er wegen eines Fehlers in der Preisliste 300 Preise auf null. Am Morgen sind schon Bestellungen eingegangen.

Nachher: Das Team startet mit einem Pilotlauf von einer Stunde unter Aufsicht. Danach läuft der Agent nur noch in einer Kopie der Daten und schreibt Vorschläge in eine Tabelle. Limits für Laufzeit und Menge, ein Alarm bei Preisen unter einer Grenze und eine Morgenkontrolle durch die Produktmanagerin schützen vor Ausreissern. Die Preise übernimmt sie nach Prüfung selbst.

So hilft Ihnen Alpasana

Wer Agenten in den Dauerbetrieb bringen will, braucht Pilot, Einsatzregeln und Skalierung als klare Schritte. Die KI-Beratung und digitale Transformation von Alpasana unterstützt bei der Integration von KI-Agenten mit Anwendungsfall, Pilot, Einsatzregeln und Skalierung sowie beim Entwickeln digitaler Workflows und Automatisierungen und beim Dokumentieren der Umsetzung. Projekte werden individuell offeriert.

Häufige Fragen

Wie viele Probeläufe sind genug?

Eine feste Zahl gibt es nicht. Als Richtwert gelten mehrere beobachtete Läufe ohne Auffälligkeiten über verschiedene Tage, mit unterschiedlichen Daten und mindestens ein Test der Notfallwege.

Darf der Agent nachts etwas an Kundinnen senden?

Nur wenn der Inhalt vorab streng begrenzt und sicher ist, zum Beispiel automatische Eingangsbestätigungen. Individuelle Antworten, Zusagen und Zahlungen sollten erst nach menschlicher Freigabe hinausgehen.

Und am Wochenende oder in den Ferien?

Dort gilt dasselbe, mit besonderem Augenmerk auf Erreichbarkeit. Wer ist an diesen Tagen für Alarme zuständig? Ohne Antwort darauf ist ein unbeaufsichtigter Betrieb nicht vertretbar.