Was bewirkt die Temperatur bei einer lokalen KI?

Das Problem

Sie stellen Ihrer lokalen KI zweimal dieselbe Frage und erhalten zwei verschiedene Antworten. Einmal nennt sie «drei Gründe», einmal «vier», einmal formuliert sie förmlich, einmal locker. Das irritiert: Ist die Antwort nun richtig, oder hat die KI geraten? Warum ist sie nicht konsequent?

Der Grund liegt in der Funktionsweise von Sprachmodellen. Sie berechnen bei jedem Wort, welche Wörter als Nächstes wahrscheinlich sind, und würfeln dann unter den wahrscheinlichen. Dieser Zufall macht Texte lebendig und abwechslungsreich, aber auch unvorhersehbar. Wie stark gewürfelt wird, regelt die Temperatur. Eine Einführung in das Prinzip bietet Wie Sprachmodelle Antworten erzeugen.

Wer die Temperatur versteht, kann das Verhalten gezielt steuern: ruhig und sachlich für Auszüge und Zusammenfassungen, lebendig für Ideen und Entwürfe. Diese Seite erklärt es in einfachen Worten.

Einfach erklärt

Stellen Sie sich vor, die KI sucht bei jedem Wort aus einer Liste möglicher Fortsetzungen. «Der Himmel ist …» könnte mit «blau» (sehr wahrscheinlich), «grau» (wahrscheinlich) oder «aus Zuckerwatte» (unwahrscheinlich) weitergehen.

• Bei niedriger Temperatur wählt die KI fast immer das Wahrscheinlichste: «blau». Die Antworten sind gleichmässig, sachlich und wiederholen sich eher.
• Bei mittlerer Temperatur kommt auch «grau» vor. Das ist für viele Texte ein guter Kompromiss.
• Bei hoher Temperatur sind auch ungewöhnliche Wörter möglich. Die Antworten werden abwechslungsreicher, aber auch fehleranfälliger und manchmal wirr.

Viele Programme haben einen mittleren Standardwert, bei Ollama liegt er nach der Dokumentation bei etwa 0,8. Die Einstellung finden Sie in Ollama als Parameter temperature (im Chat mit /set parameter temperature [Wert], dauerhaft in einer Modelfile), in LM Studio und Oberflächen in den Einstellungen des Chats.

So lösen Sie es mit KI – Schritt für Schritt

1. Aufgabenart klären. Brauchen Sie Zuverlässigkeit (Zusammenfassung, Extraktion, Antworten aus Dokumenten) oder Ideen (Titel, Varianten, Brainstorming)?

1. Startwert wählen. Für Sachaufgaben beginnen Sie niedrig, etwa um 0,2. Für Texte mit Spielraum mittel, für Ideen höher.

1. Mit derselben Frage mehrmals testen. Stellen Sie dieselbe Frage fünfmal und vergleichen Sie. Sind die Antworten zu ähnlich oder zu verschieden?

1. Einen Wert ändern, nicht mehrere. Verändern Sie nur die Temperatur, damit Sie die Wirkung erkennen.

1. Reproduzierbarkeit prüfen. Wenn Sie wiederholbare Ergebnisse brauchen, etwa für Tests, setzen Sie eine niedrige Temperatur und, falls Ihr Programm das anbietet, einen festen Startwert (seed). Vollkommen identische Antworten sind trotzdem nicht in jeder Umgebung garantiert.

1. Sonderfälle beobachten. Bei sehr tiefen Werten neigen Modelle zu Wiederholungen. Siehe Lokale KI wiederholt sich.

1. Wert festhalten. Notieren Sie, welche Temperatur für welche Aufgabe gut funktioniert, und legen Sie sie in Ihrer Konfiguration ab. Siehe Konfiguration versionieren.

1. Bei Bedarf pro Aufgabe wechseln. Legen Sie zwei Varianten an: «sachlich» mit niedrigem Wert und «kreativ» mit höherem.

Vorlage zum Kopieren

Mit diesem Auftrag planen Sie einen kleinen Test für Ihre Aufgaben.

Ich möchte den Einfluss der Temperatur bei meiner lokalen KI testen. Erstelle einen Testplan.

Meine Aufgaben: [z. B. Zusammenfassung eines Textes, Ideen für Titel, Beantwortung einer Faktenfrage]
Modell: [Name]
Programm: [Ollama / LM Studio / Oberfläche]

Erstelle:
1. Pro Aufgabe einen Testauftrag, den ich fünfmal mit jedem Temperaturwert (niedrig, mittel, hoch) stelle.
2. Eine Tabelle, in der ich pro Lauf die Bewertung eintrage: sachlich richtig, Stil passend, Abwechslung, Fehler.
3. Fragen, die mir helfen zu entscheiden, welcher Wert für welche Aufgabe passt.
Nenne keine konkreten Temperaturwerte als «richtig». Die Werte wähle ich selbst anhand meiner Bewertung.

Mit dem Test finden Sie die passenden Werte für Ihre Aufgaben und lassen sich nicht von allgemeinen Empfehlungen leiten.

Worauf Sie achten müssen

• Temperatur ersetzt keine Prüfung: Auch bei tiefem Wert kann die KI irren. Wiederholbar heisst nicht richtig.
• Fehler bei hoher Temperatur: Zu hohe Werte erzeugen Unsinn und erfundene Fakten. Für Zahlen, Namen und Quellenangaben sind sie ungeeignet. Siehe KI-Halluzinationen einfach erklärt.
• Je nach Programm unterschiedlich: Skalen und Standardwerte unterscheiden sich. Lesen Sie die Dokumentation Ihres Programms.
• Weitere Regler: Neben der Temperatur gibt es weitere Einstellungen, etwa wie viele Kandidaten pro Wort überhaupt in Frage kommen. Ändern Sie nicht alles gleichzeitig.
• Reproduzierbarkeit für Tests: Wer Modelle vergleicht, hält die Einstellungen konstant. Siehe Testfragen-Vorlage.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Treuhänder in Bern nutzt eine lokale KI, um Notizen von Mandantengesprächen in Protokolle zu verwandeln. Mal fügt die KI Details ein, die nie gesagt wurden, mal formuliert sie ganz anders als beim letzten Mal.

Vorher steht die Temperatur auf dem Standardwert. Nachher setzt er sie für Protokolle deutlich tiefer und ergänzt im Auftrag die Regel «keine Angaben ergänzen». Im Test mit demselben Notizzettel liefert die KI fünfmal fast denselben Text. Für Ideen zu Newsletter-Betreffzeilen nutzt er dagegen eine höhere Temperatur und bekommt vielfältigere Vorschläge. Er legt zwei Modell-Varianten an: «Protokoll» und «Ideen». Die Protokolle prüft er wie bisher gegen seine Notizen, denn auch bei tiefer Temperatur kann sich ein Fehler einschleichen.

So hilft Ihnen Alpasana

Wie Sie KI-Einstellungen und Aufträge sinnvoll aufeinander abstimmen und Ergebnisse prüfen, gehört zur Kursauswahl KI und IT für konkrete Arbeitsaufgaben von absofort: Sie umfasst lokale KI mit Ollama und Open-Source-Modellen, Claude mit Projektstruktur und Qualitätsprüfung sowie betriebliche KI-Richtlinien, jeweils mit KI-Lerncoach, Praxisaufgaben und verifizierbarem Abschluss.

Die Einstellungen einer bestimmten Software erklärt der Kurs nicht im Einzelnen.

Häufige Fragen

Warum bekomme ich auch bei Temperatur null nicht immer dieselbe Antwort?

Kleine technische Unterschiede, etwa bei der Berechnung auf Grafikkarten oder bei Software-Versionen, können Abweichungen verursachen. Zudem beeinflusst alles, was im Chatverlauf steht, die Antwort.

Welche Temperatur ist die richtige?

Eine allgemeine gibt es nicht. Sie hängt von Aufgabe und Modell ab. Testen Sie mit Ihren Aufgaben und notieren Sie, was funktioniert.

Hat die Temperatur etwas mit der Wärme des Computers zu tun?

Nein. Der Name stammt aus der Physik, wo Wärme für Bewegung und Zufall steht. Mit der Hitze Ihres Rechners hat der Regler nichts zu tun.