Descifrando los parámetros de la IA: ¿Qué son Temperature, Top P y Top K?

¿Alguna vez has utilizado ChatGPT, Claude u otras herramientas de redacción de contenidos con IA y te has preguntado: ¿Por qué a veces responde con una precisión extrema y otras veces 'alucina' escribiendo cosas sin pies ni cabeza?.

La respuesta no radica en que la IA sea inteligente o tonta de repente, sino en cómo configuramos los controles que gestionan su respuesta. Los tres controles más importantes que determinan el equilibrio entre la precisión y la creatividad de la IA son Temperature (Temperatura), Top P y Top K.

En este artículo, profundizaremos en estos conceptos de la manera más simple y comprensible para que puedas dominar completamente la IA.

¿Por qué es necesario ajustar estos parámetros al usar IA?

Los Grandes Modelos de Lenguaje (LLMs) como GPT-4 no entienden el texto como los humanos. Básicamente, son máquinas de predicción de probabilidades extremadamente complejas.

Cuando envías una instrucción (prompt), la única tarea de la IA es adivinar cuál debería ser la siguiente palabra.

Por ejemplo, si el prompt es: El sol sale por el..., la IA calculará la probabilidad de la siguiente palabra:

1
2
3
4
Este: 90%
Oeste: 5%
Arriba: 2%
...otras palabras: 3%

Si la IA siempre elige la palabra con la probabilidad más alta (en este caso, Este), será muy precisa pero aburrida y repetitiva. Por el contrario, si ocasionalmente elige palabras con baja probabilidad (como Oeste), se volverá más creativa, pero también más propensa a equivocarse (alucinaciones de la IA).

Los parámetros Temperature, Top P y Top K son las herramientas con las que le indicas a la IA cuándo debe jugar seguro y cuándo debe arriesgarse.

¿Qué es la Temperature (Temperatura)?

La Temperature es el parámetro más común para controlar la aleatoriedad de la salida de la IA. Imagínala como una barra deslizante que ajusta el nivel de locura o creatividad del modelo.

El valor de la Temperature suele oscilar entre 0 y 1 (algunos modelos permiten hasta 2).

Temperature baja (Cerca de 0)

Mecanismo: Cuando la temperatura es baja, la IA se vuelve muy conservadora. Hace que las palabras con alta probabilidad sean aún más dominantes, y las palabras con baja probabilidad sean casi eliminadas. La IA casi siempre elegirá la palabra con mayor probabilidad de ocurrir.

Resultado: La salida es muy consistente, precisa, realista y poco creativa. Las respuestas suelen ser concisas y directas al grano.

Cuándo usarla:

• Cuando necesitas respuestas fácticas y precisas (ej: búsqueda de información, resolución de problemas matemáticos).
• Al escribir código (la programación requiere precisión absoluta).
• Cuando necesitas consistencia (hacer la misma pregunta varias veces dará la misma respuesta).

Ejemplo fácil de entender:

Pregunta a la IA: Responde rápido, ¿cuál es la capital de Vietnam?

Temperature = 0.0
→ La IA responde:

La capital de Vietnam es Hanói.

Preguntar de nuevo 10 veces → sigue siendo Hanói, sin rodeos.

Resultado:
La salida es muy consistente, precisa, realista y poco creativa. Las respuestas suelen ser concisas y directas al grano.

Temperature alta (Cerca de 1 o más)

Mecanismo: Cuando la temperatura es alta, la diferencia entre la palabra más probable y las demás se reduce. Las palabras raras ahora tienen una mayor oportunidad de ser elegidas.

Resultado: La salida es más diversa, creativa y sorprendente, pero también es más propensa a divagar y tiene un mayor riesgo de alucinación (inventar información).

Cuándo usarla:

• Escritura creativa (poemas, historias, guiones).
• Lluvia de ideas (brainstorming).
• Cuando quieres que la IA hable más y sea más imaginativa.

Ejemplo fácil de entender:

La misma pregunta: Responde rápido, ¿cuál es la capital de Vietnam?

Temperature = 2.0
→ La IA podría responder:

La capital actual de Vietnam es Hanói. Hanói es el centro cultural, económico, educativo y político de todo el país.

Preguntar otra vez →

Hanói es la capital de la República Socialista de Vietnam. Es una ciudad bajo control central y una de las dos áreas metropolitanas especiales de Vietnam. Hanói es el centro político, cultural y educativo, y uno de los dos centros económicos importantes de Vietnam.

La información sigue siendo correcta, pero la forma de decirlo es muy diferente.

Resultado:
La salida es más diversa, creativa y sorprendente, pero también es más propensa a divagar y tiene un mayor riesgo de alucinación (inventar información).

¿Qué es Top P?

Si la Temperature decide cuánto se arriesga la IA, entonces el Top P decide dentro de qué rango se le permite arriesgarse.

Top P (también llamado nucleus sampling o muestreo de núcleo) no cambia la probabilidad de las palabras, sino que solo selecciona un grupo de palabras lo suficientemente buenas, y luego la IA solo puede elegir dentro de ese grupo.

¿Cómo funciona Top P?

Top-p es una forma de elegir el siguiente token (palabra/fragmento) basándose en el grupo de tokens cuya probabilidad sumada alcanza al menos p.

Idea simple

1. El modelo predice la probabilidad de todos los tokens que podrían ir a continuación.
2. Ordena los tokens por probabilidad descendente.
3. Toma desde arriba hacia abajo hasta que la probabilidad acumulada sea >= p → a esto se le llama núcleo (nucleus).
4. Solo elige aleatoriamente dentro de ese grupo núcleo (no elige fuera del grupo).

Ejemplo fácil de entender

Supongamos que el modelo está escribiendo la frase: Hoy el día está...
Y la probabilidad del siguiente token es:

1
2
3
4
5
6
7
- "bonito"   : 0.40
- "lluvioso" : 0.25
- "frío"     : 0.15
- "caluroso" : 0.10
- "malo"     : 0.05
- "intenso"  : 0.03
- (otros tokens) : 0.02

Si Top P = 0.80

Acumulamos de mayor a menor:

• bonito 0.40 (total 0.40)
• lluvioso 0.25 (total 0.65)
• frío 0.15 (total 0.80) → alcanza 0.80

→ Núcleo = {bonito, lluvioso, frío}
El modelo elegirá aleatoriamente solo entre estas 3 palabras, según sus proporciones de probabilidad.

Si Top P = 0.95

Acumulamos:

• bonito 0.40 (total 0.40)
• lluvioso 0.25 (total 0.65)
• frío 0.15 (total 0.80)
• caluroso 0.10 (total 0.90)
• malo 0.05 (total 0.95) → alcanza 0.95

→ Núcleo = {bonito, lluvioso, frío, caluroso, malo}
Más opciones, la frase puede ser más diversa, a veces más extraña.

Resumen rápido sobre Top P

• Top P bajo (ej: 0.3–0.5): pocas opciones → estable, divaga poco.
• Top P alto (ej: 0.8–0.95): muchas opciones → más creativo, pero propenso a ser impulsivo.

¿Qué es Top K?

Top-k es una forma de elegir el siguiente token mediante:

1. El modelo predice la probabilidad para todos los tokens.
2. Solo conserva los K tokens con la probabilidad más alta.
3. Elige aleatoriamente dentro de esos K tokens (según la probabilidad normalizada).

Top-k = solo permite elegir entre las top K opciones más populares.

Ejemplo fácil de entender

Supongamos que el modelo está escribiendo: Hoy el día está...
Probabilidad del siguiente token:

1
2
3
4
5
6
7
- "bonito"   : 0.40
- "lluvioso" : 0.25
- "frío"     : 0.15
- "caluroso" : 0.10
- "malo"     : 0.05
- "intenso"  : 0.03
- (otros)    : 0.02

Si Top K = 3
Conserva los 3 tokens con mayor probabilidad:

• bonito : 0.40
• lluvioso : 0.25
• frío : 0.15

→ El modelo solo puede elegir entre {bonito, lluvioso, frío}
Tokens como caluroso, malo, intenso son eliminados completamente.

Si Top K = 5
Conserva:

• bonito : 0.40
• lluvioso : 0.25
• frío : 0.15
• caluroso : 0.10
• malo : 0.05

→ Más opciones → frase más diversa, pero aún dentro de la zona popular.

¿En qué se diferencia Top-k de Top-p?

• Top K: siempre mantiene exactamente K tokens, sin importar si la distribución de probabilidad está concentrada o dispersa.
• Top P: el número de tokens que se mantienen cambia dinámicamente para que la probabilidad total sea >= p.

Comparación: Temperature – Top P – Top K

En resumen

• Temperature: ¿Se le permite a la IA arriesgarse?
• Top P: ¿Qué % de las palabras más lógicas puede usar la IA?
• Top K: ¿Cuántas palabras puede mirar la IA para elegir?

Ejemplo combinado de Temperature, Top P, Top K

Frase: Este fin de semana quiero...

Probabilidades:

1
2
3
4
5
- salir (0.30)
- viajar (0.25)
- descansar (0.20)
- explorar (0.12)
- huir de las deudas (0.08)

• Temperature
  • T = 0.3 → casi siempre sale salir
  • T = 1.0 → viajar / descansar
  • T = 1.5 → podría salir huir de las deudas
• Top-p
  • p = 0.7 → salir, viajar, descansar
  • p = 0.9 → añade: explorar, huir de las deudas
• Top-k
  • k = 2 → solo elige: salir, viajar
  • k = 4 → añade: descansar, explorar

Configuración rápida según el propósito

Conclusión

La IA no es imaginaria ni empeora de forma aleatoria. Lo que determina la calidad de la respuesta reside en cómo ajustas la Temperature, el Top P y el Top K. Dependiendo de tu configuración, la IA priorizará la creatividad y podrá divagar, o se volverá precisa, estable y directa al objetivo. Entender estos tres parámetros significa que ya no dependes de la suerte, sino que estás controlando activamente cómo la IA genera sus respuestas.