Temperatur

Definition

Die Temperatur (englisch Temperature) ist ein Regler bei Sprachmodellen. Ein Sprachmodell berechnet bei jedem Wort, welche Wörter als Nächstes wahrscheinlich passen, und wählt eines davon aus. Die Temperatur legt fest, wie stark es dabei vom wahrscheinlichsten Wort abweichen darf.

Bei niedriger Temperatur greift das Modell fast immer zum wahrscheinlichsten Wort. Bei hoher Temperatur kommen auch weniger wahrscheinliche Wörter vor.

Einfach erklärt

Stellen Sie sich eine Mitarbeiterin vor, die Standardbriefe schreibt. Bei «niedriger Temperatur» hält sie sich streng an die Vorlage. Bei «hoher Temperatur» probiert sie ungewöhnliche Formulierungen aus. Das kann originell sein, aber auch holprig oder falsch.

Deshalb hängt die passende Einstellung von der Aufgabe ab.

Beispiel

Ein Beispiel: Ein Reisebüro in Luzern lässt über eine Programmierschnittstelle Beschreibungen für Ferienangebote erstellen. Für Textbausteine mit Öffnungszeiten und Preisen stellt es eine niedrige Temperatur ein, damit die Angaben konstant bleiben. Für Ideen zu Werbeslogans wählt es einen höheren Wert und bekommt jeden Durchlauf andere Vorschläge. Preise und Fakten kontrolliert das Büro in beiden Fällen selbst.

Nicht verwechseln

Auch bei Temperatur null sind Antworten nicht in jedem Fall identisch. Technische Gründe können kleine Unterschiede verursachen. Die Temperatur ist zudem nicht das Gleiche wie Top-p und Top-k: Das sind andere Regler, die ebenfalls beeinflussen, aus welchen Wörtern das Modell wählt. Und sie verhindert keine Halluzinationen: Auch bei niedriger Temperatur kann ein Modell Falsches behaupten. Wer reproduzierbare Ergebnisse braucht, kann zusätzlich einen Seed setzen, sofern das Werkzeug ihn anbietet. In einfachen Chat-Programmen steuern Sie das Verhalten vor allem über klare Aufträge.

So hilft Ihnen Alpasana

Wie Sie KI so beauftragen, dass die Antworten zu Ihrer Aufgabe passen, lernen Sie im Kurs Prompt Engineering von absofort. Beschrieben sind unter anderem Aufgabe, Rolle, Kontext, Ziel und Ausgabeformat festlegen sowie Prompts überarbeiten und Ergebnisse prüfen. Der Kurs läuft online und mit Zertifikat.