Temperature (KI)

Wie Temperature funktioniert

Ein Sprachmodell sagt nicht ein einzelnes nächstes Wort voraus, sondern eine Wahrscheinlichkeitsverteilung über alle möglichen nächsten Token. Diese Rohwerte (Logits) werden über die sogenannte Softmax-Funktion in Wahrscheinlichkeiten umgerechnet. Temperature ist der Faktor, durch den die Logits vor der Softmax geteilt werden. Wie IBM beschreibt, schärft ein Wert unter 1 die Verteilung – die wahrscheinlichsten Token werden noch dominanter – während ein Wert über 1 die Verteilung abflacht und auch unwahrscheinliche Token eine reelle Chance erhalten.

• Temperature 0: nahezu deterministisch – das Modell wählt fast immer das wahrscheinlichste Token, gleicher Prompt liefert weitgehend gleiche Antwort.
• Temperature 0,2–0,5: leicht variabel, aber faktennah – typisch für Auskunfts- und Analyse-Anwendungen.
• Temperature 0,8–1,2: deutlich kreativer und abwechslungsreicher – geeignet für Ideenfindung und Textvariation, mit höherem Risiko für Abweichungen.

Welcher Temperature-Wert wofür

Es gibt keinen universell richtigen Wert – die passende Temperature hängt vom Anwendungsfall ab. Für produktive KI-Lösungen in Unternehmen lassen sich vier typische Profile unterscheiden:

Temperature wirkt zudem nicht isoliert: Sie wird oft mit Verfahren wie Top-p-Sampling kombiniert. In der Praxis lohnt es sich, beide Parameter im Rahmen sauberer Prompt-Engineering-Arbeit systematisch zu testen, statt sie zu raten.

Was Temperature in KI-Projekten beeinflusst

Für Unternehmen ist Temperature kein Detail, sondern eine Stellschraube mit direkten Folgen für Qualität und Risiko einer KI-Anwendung:

• Konsistenz: Zwei identische Anfragen können bei hoher Temperature unterschiedliche Antworten liefern – kritisch bei rechtlich oder fachlich verbindlichen Auskünften.
• Halluzinationsrisiko: Hohe Werte erhöhen die Wahrscheinlichkeit unbelegter Aussagen, weil unwahrscheinliche Token häufiger gewählt werden.
• Testbarkeit: Nur bei niedriger oder auf Null gesetzter Temperature lassen sich Modellausgaben sinnvoll mit festen Erwartungswerten prüfen.
• Modellabhängigkeit: Der gleiche Zahlenwert verhält sich je nach Foundation Model unterschiedlich – ein für ein Modell guter Wert ist nicht automatisch für ein anderes optimal.

Welche Temperature die Balance aus Verlässlichkeit und natürlicher Sprache trifft, lässt sich messen – ein fester Bestandteil sauberer Architektur- und Qualitätsarbeit, der sinnvollerweise zusammen mit dem System Prompt und dem Context Window ausgelegt wird.

Verwandte Begriffe

• Token (KI) – Die Einheiten, über deren Wahrscheinlichkeiten Temperature wirkt
• Large Language Model – Das Modell, dessen Ausgabe Temperature steuert
• Prompt Engineering – Temperature ist ein zentraler Parameter beim systematischen Testen
• System Prompt – Wird gemeinsam mit Temperature ausgelegt, um Verhalten zu steuern
• Foundation Model – Die Modellbasis, von der das Temperature-Verhalten abhängt