Temperature
Parameter, der steuert, wie variabel oder deterministisch ein Sprachmodell antwortet.
Definition
Temperature ist ein Parameter, der die Zufälligkeit der Ausgabe eines Sprachmodells steuert. Ein niedriger Wert führt zu vorhersehbaren, konsistenten Antworten, ein höherer Wert zu variablerer, kreativerer Ausgabe. Der Parameter beeinflusst nicht die inhaltliche Korrektheit, sondern die Streuung der möglichen Antworten.
Warum das wichtig ist
Für sachliche Anwendungen wie die Beantwortung von Fachfragen ist eine niedrige Temperature meist sinnvoll, um reproduzierbare Ergebnisse zu erhalten. Die richtige Einstellung ist ein wichtiger Baustein für verlässliche Anwendungen.
Vidasus-Kontext
Bei der Entwicklung wählen wir die Temperature passend zum Anwendungsfall und dokumentieren die Einstellung, damit das Verhalten der Anwendung nachvollziehbar bleibt.