Was ist Temperature?

Kurz-Fakten

• Üblicher Bereich ist 0 bis 2, die Voreinstellung liegt meist bei etwa 0,7
• Auch bei Wert 0 sind Antworten nicht garantiert identisch
• Eine hohe Temperature erhöht die Wahrscheinlichkeit erfundener Angaben
• Für Auskunftssysteme sind Werte nahe 0 die übliche Wahl

Bedeutung in der Praxis

Es ist eine der wenigen Stellschrauben, die ohne Entwicklungsaufwand wirken. Wenn ein Assistent im Kundenkontakt kreativ wird, wo er sachlich sein soll, lohnt der Blick auf diese Einstellung, bevor über ein anderes Modell nachgedacht wird.

Verwandte Begriffe

• Halluzination Als Halluzination bezeichnet man eine Antwort eines Sprachmodells, die plausibel…
• LLM Ein LLM ist ein mit sehr großen Textmengen trainiertes Modell, das den jeweils…
• Prompt Engineering Prompt Engineering ist das gezielte Formulieren von Anweisungen an ein Sprachmodell, um…