Cuando le explico a un dueño de agencia qué es un modelo de lenguaje, uso una sola frase:
Es un programa que calcula la siguiente palabra, entrenado con tanto texto que esa siguiente palabra se siente escrita por una persona.
Eso es todo. No piensa. No entiende. No consulta una base de datos de hechos. Toma el texto que tiene enfrente y calcula qué viene después, palabra por palabra, con una puntería que asusta.
Sé que suena reduccionista. Pero de esa única mecánica salen las tres cosas que más confunden a cualquiera que lo usa para trabajar — y las tres decisiones prácticas que se derivan.
Consecuencia 1: no hay memoria
El modelo no recuerda nada entre conversaciones, y dentro de una conversación “recordar” significa una sola cosa: el texto anterior sigue estando enfrente. Cuando la conversación crece demasiado, lo de arriba deja de caber, y lo que no está enfrente no existe.
Por eso tu chat era brillante la primera hora y ahora contesta como si no hubiera leído nada. No se descompuso: se llenó. (De esto viene un post completo la próxima semana, porque tiene arreglo.)
Consecuencia 2: no hay verdad, hay probabilidad
Aquí está la que más cuesta aceptar: inventar y acertar son el mismo mecanismo. El modelo no distingue entre “esto lo sé” y “esto suena bien”. Calcula la continuación más probable, y cuando la verdad no está en el texto que le diste, la continuación más probable es algo plausible. Un teléfono que parece teléfono. Una cifra que parece cifra. Una ley que parece ley.
No es un bug que van a arreglar en la próxima versión. Es el motor funcionando exactamente como funciona. Los modelos nuevos aciertan más — y cuando fallan, fallan con la misma cara de seguridad.
Consecuencia 3: si puede completar prosa, puede completar una orden
Esta es la que convierte el autocompletado en algo que trabaja. Si la siguiente palabra puede ser prosa, también puede ser esto:
{ "herramienta": "leer_hoja_de_calculo", "archivo": "prospectos-agosto" }Un texto estructurado que un programa intercepta y ejecuta. Eso —nada más que eso— es lo que hay detrás de cada “agente” que ves anunciado: un modelo cuyas adivinanzas a veces son órdenes, y un sistema alrededor que las cumple y le devuelve el resultado como más texto.
No es magia aparte. Es el mismo motor. Y entenderlo importa porque el día que un agente te haga algo raro —borre lo que no debía, invente un dato en un reporte— la explicación va a estar aquí, en esta mecánica, no en un espíritu dentro de la máquina.
El cambio mental
Quien cree que el modelo “sabe”, pelea con la herramienta: le reclama, le repite, le escribe EN MAYÚSCULAS. Quien entiende que el modelo completa el texto que tiene enfrente se hace una pregunta distinta, y es la única pregunta que de verdad mueve resultados:
¿Qué texto le estoy poniendo enfrente?
Todo lo que voy a escribir en este blog —los procesos escritos una vez, las herramientas conectadas, los agentes que corren solos de madrugada— es esa pregunta, respondida con cada vez más cuidado.
El martes: por qué tu conversación mejora hasta que empeora, en vivo.