Meine lokale KI wiederholt sich: Wie verhindere ich das?

Das Problem

Sie bitten Ihre lokale KI um eine kurze Zusammenfassung. Sie beginnt: «Die Sitzung hat gezeigt, dass die Zahlen steigen. Die Sitzung hat gezeigt, dass die Zahlen steigen. Die Sitzung hat gezeigt, dass die Zahlen steigen.» und hört nicht mehr auf. Oder sie schreibt eine Aufzählung, in der jeder Punkt fast gleich lautet. Manchmal wiederholt sie auch nur einzelne Wörter oder bleibt in einer Schleife stecken, bis Sie abbrechen.

Das wirkt wie ein Absturz, ist aber ein bekanntes Verhalten von Sprachmodellen. Sie sagen Wort für Wort das Wahrscheinlichste voraus. Wenn das Wahrscheinlichste das ist, was sie gerade geschrieben haben, entsteht eine Schleife: Das Modell wiederholt, weil Wiederholung nach Wiederholung immer wahrscheinlicher wird.

Das Problem tritt bei kleinen Modellen, langen Chats und bestimmten Einstellungen häufiger auf. Es lässt sich in der Regel mit ein paar gezielten Änderungen beheben. Diese Anleitung zeigt, was Sie ausprobieren können, in der Reihenfolge von einfach zu aufwendig.

So lösen Sie es mit KI – Schritt für Schritt

1. Antwort beenden. Brechen Sie die Ausgabe ab, im Terminal mit der Tastenkombination Strg+C, in Oberflächen mit der Stopp-Schaltfläche. Lassen Sie die Schleife nicht minutenlang laufen, das verbraucht Rechenleistung. Siehe Anfragen abbrechen.

1. Neuen Chat beginnen. Eine begonnene Schleife kann sich im Verlauf festsetzen. Ein neuer Chat räumt sie weg. Siehe Wann ein neuer Chat sinnvoll ist.

1. Auftrag klarer formulieren. Vage Aufträge («Schreib etwas zu den Zahlen») laden zu Wiederholungen ein. Nennen Sie Ziel, Form und Länge: «Fasse den Text in drei verschiedenen Sätzen zusammen, jeder mit einem eigenen Aspekt.»

1. Temperatur prüfen. Sehr niedrige Temperaturen verstärken Schleifen, weil das Modell immer das Wahrscheinlichste wählt. Erhöhen Sie den Wert leicht, zum Beispiel von 0 auf etwa 0,3 bis 0,5, und testen Sie. Siehe Was die Temperatur bewirkt.

1. Wiederholungsstrafe nutzen. Viele Programme kennen einen Parameter, der Wiederholungen bestraft. In Ollama heisst er repeat_penalty, im Chat /set parameter repeat_penalty [Wert]. Ein leicht erhöhter Wert kann helfen, ein zu hoher macht die Sprache unnatürlich. Ändern Sie ihn in kleinen Schritten.

1. Kontextfenster prüfen. Ist es voll oder zu klein, verliert das Modell den Überblick und kreist. Beginnen Sie neu oder erhöhen Sie, wenn möglich, die Kontextlänge. Siehe Kontextlänge und Speicher.

1. Passendes Modell wählen. Für Gespräche und Aufträge verwenden Sie ein Modell, das für Anweisungen trainiert ist (oft «instruct» im Namen), kein reines Basismodell. Basismodelle setzen Texte fort und neigen zu Schleifen. Siehe Basis- und Instruct-Modelle.

1. Anderes oder grösseres Modell testen. Sehr kleine Modelle wiederholen sich häufiger. Ein anderes Modell kann das Problem lösen. Dokumentieren Sie, was geholfen hat.

Vorlage zum Kopieren

Mit diesem Auftrag lassen Sie sich helfen, die Ursache einzugrenzen. Verwenden Sie keine vertraulichen Texte.

Meine lokale KI wiederholt sich. Hilf mir, die Ursache einzugrenzen.

Programm und Modell: [Ollama / LM Studio / Oberfläche, Modellname und Variante]
Auftrag, bei dem es passiert: [Wortlaut, ohne vertrauliche Angaben]
Wie sich die Wiederholung zeigt: [ganze Sätze / einzelne Wörter / Aufzählungen]
Chatlänge: [kurz / lang]
Eingestellte Werte, soweit bekannt: [Temperatur, Wiederholungsstrafe, Kontextlänge]

Aufgabe:
1. Erkläre kurz, warum Sprachmodelle in Schleifen geraten.
2. Nenne die drei wahrscheinlichsten Ursachen für meinen Fall, mit Begründung.
3. Schlage für jede Ursache eine konkrete Änderung vor, die ich testen kann, jeweils nur eine Änderung auf einmal.
4. Formuliere meinen Auftrag klarer, so dass Wiederholungen weniger wahrscheinlich werden.
Nenne keine Zahlenwerte als allgemein richtig. Schreibe stattdessen «in kleinen Schritten testen».

Ändern Sie immer nur eine Einstellung pro Test, sonst wissen Sie nicht, was gewirkt hat.

Worauf Sie achten müssen

• Zu starke Wiederholungsstrafe: Zu hohe Werte führen zu unnatürlichen oder falschen Wörtern, weil das Modell nichts wiederholen «darf», auch nicht Fachbegriffe oder Namen. Erhöhen Sie nur wenig.
• Verschwendete Rechenzeit: Lange Schleifen belasten den Rechner. Beenden Sie sie rasch.
• Unbemerkte Teilwiederholungen: Nicht jede Wiederholung ist offensichtlich. Manche Texte enthalten fast gleiche Absätze. Lesen Sie kritisch.
• Ein Fehler ist nicht gleich ein Fehler: Wiederholen sich Antworten nur bei einem bestimmten Auftrag, liegt es meist am Auftrag, nicht am Modell.
• Weitere Fehlerbilder: Antworten, die abbrechen oder in der falschen Sprache erscheinen, haben andere Ursachen. Siehe Antwort bricht mitten im Satz ab.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Elektrotechniker aus dem Seetal verwendet eine lokale KI, um Notizen von Baustellenbesprechungen in Protokolle zu überführen. Bei längeren Notizen wiederholt die KI Sätze wie «Die Arbeiten wurden besprochen.» in Dauerschleife.

Vorher bricht er ab und versucht es erneut, mit demselben Ergebnis. Nachher beginnt er einen neuen Chat und teilt die Notizen in zwei Teile. Er bemerkt, dass die Temperatur auf null gestellt ist, und erhöht sie auf einen niedrigen mittleren Wert. Zusätzlich formuliert er den Auftrag präziser: «Schreibe ein Protokoll mit den Rubriken Beschlüsse, Aufgaben, offene Punkte. Jeder Punkt höchstens ein Satz.» Die Schleife verschwindet. Bei einem sehr kleinen Modell, das er ebenfalls testet, bleibt das Problem teilweise bestehen, und er wählt ein grösseres.

So hilft Ihnen Alpasana

Wie Sie klare Aufträge mit Rolle, Kontext, Ziel und Ausgabeformat formulieren, lernen Sie im Kurs Prompt Engineering von absofort. Dazu gehört auch, Prompts zu überarbeiten und Ergebnisse zu prüfen. Der Kurs ist online, ohne Programmierkenntnisse, mit Zertifikat.

Einstellungen einzelner Programme und die Behebung technischer Fehler erklärt der Kurs nicht.

Häufige Fragen

Ist das ein Fehler des Modells?

Eher eine Eigenschaft von Sprachmodellen, die bei bestimmten Einstellungen und Aufgaben häufiger auftritt. Mit klarem Auftrag und passenden Werten lässt es sich meist vermeiden.

Hilft es, die Frage auf Englisch zu stellen?

Das kann bei manchen Modellen die Qualität verbessern, löst Schleifen aber nicht grundsätzlich. Prüfen Sie zuerst Auftrag, Temperatur und Chatlänge. Siehe auch Warum antwortet meine KI auf Englisch?.

Wann sollte ich ein anderes Modell wählen?

Wenn das Problem trotz klarer Aufträge und angepasster Einstellungen in vielen Aufgaben auftritt. Dann passt das Modell nicht zu Ihrem Einsatz.