Temperatura (muestreo)
La temperatura (temperature) es un ajuste de muestreo que controla lo aleatorias que son las elecciones de palabras de un modelo de lenguaje. Los valores bajos hacen que favorezca los tokens más probables; los más altos reparten las elecciones entre otros menos probables.
También llamado: sampling temperature
Por Divya Sharma · Comprobado el 15 nov 2026 · Cómo hacemos las reseñas
En cada paso, un modelo de lenguaje grande produce una probabilidad para cada posible token siguiente. La temperatura reescala esas probabilidades antes de elegir uno. Bajarla hace la distribución más afilada, de modo que los tokens probables se vuelven aún más probables. Subirla aplana la distribución, así que los tokens poco probables se eligen más a menudo.
Cómo funciona
La temperatura divide las puntuaciones en bruto del modelo antes del paso softmax que las convierte en probabilidades. La guía de generación de texto de Hugging Face describe bajar la temperatura como hacer la distribución más afilada, aumentando la probabilidad de las palabras de alta probabilidad y reduciendo la de las de baja probabilidad. Cerca de cero, el muestreo se comporta casi como tomar siempre el token principal.
Qué valor poner
- Una temperatura baja encaja con extracción, clasificación, código y cualquier cosa con una sola respuesta correcta. - Una temperatura más alta encaja con lluvia de ideas, redacción variada y escritura creativa.
Los rangos y los valores por defecto varían según el proveedor, así que consulta la referencia de la API del modelo que llamas.
En qué se diferencia de top-p
El muestreo top-p recorta la cola poco probable de la distribución y muestrea entre lo que queda. La temperatura cambia la forma de toda la distribución. Una regla práctica habitual es ajustar una y dejar la otra en su valor por defecto.
Límites
Una temperatura baja no hace que un modelo acierte. Lo hace más constante, lo que incluye equivocarse de forma constante. Tampoco garantiza una salida idéntica en cada llamada. Si necesitas formatos fiables, usa salida estructurada; si necesitas datos, usa grounding.
Términos relacionados
- Modelo de lenguaje grande
- Un modelo de lenguaje grande (LLM, large language model) es una red neuronal con miles de millones de parámetros, entrenada con grandes cantidades de texto para predecir el siguiente token, lo que le permite redactar, responder preguntas, resumir y seguir instrucciones.
- Muestreo top-p
- El muestreo top-p (top-p sampling), o nucleus sampling, elige cada token siguiente solo entre el conjunto más pequeño de candidatos cuya probabilidad combinada alcanza un umbral p, recortando la larga cola de tokens poco probables.
- Token (LLM)
- Un token (LLM) es la unidad básica de texto que un modelo de lenguaje lee y escribe, a menudo una palabra, parte de una palabra, un signo de puntuación o un byte. Los precios, la velocidad y los límites de contexto se cuentan en tokens.
- Salida estructurada
- La salida estructurada (structured output) es una función de las API que hace que la respuesta de un modelo de lenguaje siga un formato que defines, normalmente un JSON schema, para que el código pueda analizarla de forma fiable en lugar de extraer datos de texto libre.
- Alucinación (IA)
- Una alucinación es una salida de un modelo de IA que suena fluida y segura, pero que es falsa, no está respaldada por sus fuentes o es inventada, como una cita bibliográfica, una frase, una estadística o una función de API que no existen.