Temperature (Sampling)
Temperature (Temperatur) ist eine Sampling-Einstellung, die steuert, wie zufällig ein Sprachmodell seine Wörter wählt. Niedrige Werte lassen es die wahrscheinlichsten Tokens bevorzugen; höhere Werte verteilen die Wahl auf weniger wahrscheinliche.
Auch: sampling temperature
Von Divya Sharma · Geprüft am 15. Nov. 2026 · So testen wir
Bei jedem Schritt erzeugt ein Large Language Model eine Wahrscheinlichkeit für jedes mögliche nächste Token. Temperature skaliert diese Wahrscheinlichkeiten neu, bevor eines ausgewählt wird. Wird sie gesenkt, wird die Verteilung schärfer, und wahrscheinliche Tokens werden noch wahrscheinlicher. Wird sie erhöht, flacht die Verteilung ab, und unwahrscheinliche Tokens werden öfter gewählt.
So funktioniert es
Temperature teilt die Rohwerte des Modells vor dem Softmax-Schritt, der sie in Wahrscheinlichkeiten verwandelt. Der Leitfaden von Hugging Face zur Textgenerierung beschreibt eine niedrigere Temperature so, dass sie die Verteilung schärfer macht, die Wahrscheinlichkeit von Wörtern mit hoher Wahrscheinlichkeit erhöht und die von Wörtern mit niedriger Wahrscheinlichkeit senkt. Nahe null verhält sich das Sampling fast so, als würde immer das oberste Token genommen.
Was du einstellen solltest
- Niedrige Temperature passt zu Extraktion, Klassifikation, Code und allem mit genau einer richtigen Antwort. - Höhere Temperature passt zu Brainstorming, abwechslungsreichen Formulierungen und kreativem Schreiben.
Bereiche und Standardwerte unterscheiden sich je nach Anbieter, also sieh in der API-Referenz des Modells nach, das du aufrufst.
Unterschied zu Top-p
Top-p-Sampling schneidet den unwahrscheinlichen Rand der Verteilung ab und sampelt aus dem Rest. Temperature formt die ganze Verteilung um. Eine verbreitete Faustregel ist, eines davon anzupassen und das andere auf dem Standardwert zu lassen.
Grenzen
Niedrige Temperature macht ein Modell nicht korrekt. Sie macht es beständiger, und dazu gehört auch, beständig falsch zu liegen. Sie verspricht außerdem keine identische Ausgabe bei jedem Aufruf. Wenn du verlässliche Formate brauchst, nutze Structured Output; wenn du Fakten brauchst, nutze Grounding.
Verwandte Begriffe
- Großes Sprachmodell
- Ein großes Sprachmodell (Large Language Model, LLM) ist ein neuronales Netz mit Milliarden Parametern, das auf großen Textmengen trainiert wurde, um das nächste Token vorherzusagen, wodurch es schreiben, Fragen beantworten, zusammenfassen und Anweisungen befolgen kann.
- Top-p-Sampling
- Top-p-Sampling oder Nucleus Sampling wählt jedes nächste Token nur aus der kleinsten Menge von Kandidaten, deren gemeinsame Wahrscheinlichkeit einen Schwellenwert p erreicht, und schneidet den langen Rand unwahrscheinlicher Tokens ab.
- Token (LLM)
- Ein Token (LLM) ist die Grundeinheit von Text, die ein Sprachmodell liest und schreibt, oft ein Wort, ein Wortteil, ein Satzzeichen oder ein Byte. Preise, Geschwindigkeit und Kontextgrenzen werden alle in Tokens gezählt.
- Structured Output
- Structured Output (strukturierte Ausgabe) ist eine API-Funktion, die die Antwort eines Sprachmodells einem von dir festgelegten Format folgen lässt, meist einem JSON Schema, damit Code sie verlässlich parsen kann, statt freien Text auszuwerten.
- Halluzination (KI)
- Eine Halluzination (Hallucination) ist eine Ausgabe eines KI-Modells, die flüssig und selbstsicher klingt, aber falsch, nicht durch die Quellen gedeckt oder erfunden ist, etwa eine erfundene Quellenangabe, ein Zitat, eine Statistik oder eine API-Funktion.