KI-Agent läuft endlos: Schleifen erkennen und begrenzen

Das Problem

Sie starten einen Assistenten am Abend, der Lieferantenpreise von einer Webseite in eine Tabelle übertragen soll. Am Morgen läuft er immer noch. Die Seite war nicht erreichbar, und der Agent hat es 800-mal versucht, Fehlermeldungen gelesen, neue Anläufe gestartet und jedes Mal Rechenleistung verbraucht. Die Rechnung für die Nutzung des KI-Dienstes ist unerwartet hoch.

Eine Endlosschleife entsteht, wenn ein Agent einen Schritt wiederholt, ohne voranzukommen. Typische Auslöser: eine Webseite, die nie vollständig lädt, eine Aufgabe, deren Ergebnis er nie als genügend bewertet, widersprüchliche Anweisungen oder zwei Agenten, die sich gegenseitig immer neue Aufträge geben. Menschen würden nach dem dritten Versuch aufgeben. Eine KI macht weiter, solange ihr niemand eine Grenze setzt.

Die Folgen reichen von unnötigen Kosten über blockierte Systeme bis zu Schäden, wenn jeder Durchlauf eine Aktion mit Wirkung auslöst, etwa eine Mail oder eine Bestellung.

Welche Grenzen helfen?

So lösen Sie es mit KI – Schritt für Schritt

1. Beschreiben Sie, wann die Aufgabe «fertig» ist. Ohne klares Ziel weiss der Agent nicht, wann er aufhören soll. Zum Beispiel: «Fertig, wenn die Tabelle 20 Preise enthält.»
2. Legen Sie ein Zeitlimit fest. Wie lange darf der Auftrag höchstens dauern? Rechnen Sie grosszügig, aber nicht unbegrenzt.
3. Begrenzen Sie die Wiederholungen. Pro Schritt und insgesamt: maximal drei bis fünf Anläufe, danach Abbruch mit Meldung.
4. Setzen Sie Kostenlimits. Beim KI-Anbieter, beim Programm oder in Ihrem Konto: Tages- oder Monatslimit und Warnungen.
5. Definieren Sie, was bei Problemen geschieht. «Bei Fehlern: stoppen und melden», nicht «weitermachen, bis es klappt». Siehe Wann soll ein Agent an Menschen übergeben?.
6. Verhindern Sie Wirkung bei Wiederholung. Aktionen mit Wirkung dürfen sich nicht jedes Mal wiederholen, siehe Doppelte Aktionen verhindern.
7. Richten Sie einen Alarm ein. Eine Benachrichtigung, wenn ein Auftrag zu lange läuft oder ungewöhnlich viele Anfragen verbraucht, siehe Ungewöhnliche Nutzungsspitzen.
8. Testen Sie absichtlich. Geben Sie dem Agenten eine unlösbare Aufgabe (nicht erreichbare Seite) und prüfen Sie, ob er nach den Limits stoppt.

Vorlage zum Kopieren

Mit diesem Zusatz zu Ihrem Arbeitsauftrag geben Sie dem Agenten klare Abbruchregeln. Die Werte passen Sie an:

Aufgabe: [Ihre Aufgabe, z. B. Preise von den drei Lieferantenseiten in eine Tabelle übertragen].
Fertig ist die Aufgabe, wenn: [z. B. die Tabelle für alle drei Lieferanten je einen Preis enthält].
Abbruchregeln:
- Höchstens [5] Versuche pro Schritt. Danach stoppst du diesen Schritt und meldest den Fehler.
- Höchstens [20] Minuten insgesamt. Danach beendest du den Auftrag und meldest den Stand.
- Wenn du dieselbe Fehlermeldung zweimal siehst, versuche es nicht erneut, sondern melde sie.
- Wenn du merkst, dass du denselben Schritt wiederholst, ohne dass sich etwas ändert, stoppe und melde das.
- Führe keine Aktion mit Wirkung nach aussen (Senden, Bestellen, Löschen) in einer Wiederholung erneut aus.
Am Ende: Fasse in drei Sätzen zusammen, was erledigt ist, was nicht und warum du gestoppt hast.

Die Regeln im Prompt ersetzen technische Limits nicht, denn ein Agent kann sich verirren und sie vergessen. Richten Sie zusätzlich Limits im Werkzeug ein.

Worauf Sie achten müssen

• Technische Limits vor Anweisungen: Prompts können ignoriert oder vergessen werden. Limits des Werkzeugs und des Anbieterkontos gelten verlässlich.
• Kosten: Endlosschleifen verbrauchen Rechenleistung und können Kosten verursachen. Setzen Sie Tageslimits und Alarme.
• Wirkung nach aussen: Jede Wiederholung, die eine Mail oder Bestellung auslöst, verstärkt den Schaden.
• Mehrere Agenten: Arbeiten Agenten zusammen, können sie sich gegenseitig in Schleifen treiben. Siehe Mehrere KI-Agenten und Sicherheit.
• Unauffällige Schleifen: Nicht jede Schleife ist laut. Manche laufen leise im Hintergrund. Kontrollieren Sie Protokolle und Verbrauch.
• Risiko übermässiger Handlungsfreiheit: Das OWASP-Projekt nennt unkontrollierte Autonomie als Risiko für KI-Anwendungen.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Onlinehändler für Velozubehör in Liestal lässt über Nacht einen Agenten Produkttexte aktualisieren. Bei einem Produkt fehlt eine Bilddatei, der Agent versucht immer wieder, sie zu laden, und schreibt jedes Mal den Text neu.

Vorher: Am Morgen sind 1'200 Versuche protokolliert, und die Nutzungsgebühr des KI-Dienstes ist auf ein Vielfaches des üblichen Betrags gestiegen.

Nachher: Der Händler setzt ein Zeitlimit von 30 Minuten, maximal drei Versuche pro Produkt und ein Tageslimit beim Dienst. Fehlt ein Bild, überspringt der Agent das Produkt und schreibt es in eine Fehlerliste. Bei mehr als zehn Fehlern bekommt der Händler eine Nachricht.

So hilft Ihnen Alpasana

Wer Agenten zuverlässig betreiben will, braucht Wissen zu Grenzen, Tests und Kontrolle. Der Kurs KI für Developer mit Claude und Codex von absofort behandelt laut Beschreibung LLM-Grundlagen mit Tokens, Kontext und Grenzen, das Delegieren von Aufgaben und das Verifizieren der Ergebnisse. Das Entwickler-Playbook enthält Prompts, Review-Regeln, Tests und Datenschutzgrenzen.

Häufige Fragen

Woran erkenne ich eine Endlosschleife?

Typische Zeichen: gleiche Meldungen im Protokoll, steigender Verbrauch ohne Ergebnis, Laufzeit weit über dem Erwarteten. Ein Verbrauchs- oder Zeitalarm erkennt das früh.

Reicht es, den Agenten einfach abzuschalten?

Als Notfallmassnahme ja. Prüfen Sie danach, ob laufende Aufgaben im Hintergrund weiterlaufen und ob bereits Aktionen ausgelöst wurden, siehe KI-Agent stoppen.

Wie hoch sollte das Kostenlimit sein?

Etwas über dem erwarteten normalen Verbrauch, damit es im Normalfall nicht stört, aber bei Ausreissern greift. Beobachten Sie die ersten Wochen und passen Sie an.