Qué es un LLM (y qué no es)

El autocompletar de tu móvil, pero enorme

Cuando escribes un mensaje, el móvil te sugiere la palabra siguiente. A veces acierta y a veces dice una tontería. Ahora imagina ese autocompletar entrenado con una cantidad gigantesca de texto: libros, webs, código. Ya no sugiere una palabra: te escribe párrafos, resuelve problemas y programa.

Eso es, en esencia, un LLM. Su único truco es predecir qué texto viene a continuación, una y otra vez, hasta completar la respuesta.

Tokens: las piezas con las que lee

El modelo no lee letras ni palabras enteras. Corta el texto en trozos pequeños llamados tokens. «Programación» puede ser un token o dos; un espacio o una coma también cuentan.

Esto importa por dos motivos:

• Todo se mide en tokens: lo que le envías, lo que responde y el espacio que tiene para trabajar.
• El espacio es limitado: el modelo solo puede tener a la vista una cantidad finita de tokens a la vez. A eso se le llama ventana de contexto, y le dedicamos un módulo entero más adelante.

Cómo es un turno con un LLM

Tú:      "Resume este texto: ..."
Modelo:  [predice token a token]  "El texto habla de..."

Fíjate en lo que no hace. No abre tus archivos, no ejecuta nada, no busca en internet. Recibe texto y devuelve texto. Cuando un asistente de IA parece «hacer cosas», es otra pieza (el harness, que ya conoces de la lección anterior) la que convierte ese texto en acciones.

Sus dos límites más importantes

1. Olvida. Un modelo no recuerda conversaciones pasadas por sí mismo. Solo «sabe» lo que le llega en ese momento dentro de su ventana de contexto. Cierras la sesión y empieza de cero. Es como un compañero brillante que cada mañana llega sin acordarse de nada de ayer: si no le dejas notas, repite el trabajo.

2. Se inventa cosas. Como solo predice texto verosímil, puede escribir algo que suena correcto y es falso: una función que no existe, un dato inventado. Lo hace con total seguridad. En programación esto se nota rápido, porque el código inventado no funciona; pero el agente puede decir «terminado» sin haberlo comprobado.

Estos dos límites son la razón de que exista el harness: guardar notas para que no olvide y verificar lo que hace para que no se invente nada.

Un ejemplo para que lo veas

Pídele a cualquier asistente: «¿Qué versión de la librería X usa mi proyecto?». Si no puede mirar tus archivos, responderá con algo plausible, pero adivinado. Si el harness le permite leer package.json, la respuesta sale de un dato real. El modelo es el mismo; cambia lo que tiene delante.