Predice la siguiente palabra, no razona
Un LLM (modelo de lenguaje de gran tamaño, por sus siglas en inglés) hace una sola cosa en el fondo: dado un texto, calcula qué palabra (o fragmento de palabra, llamado token) es más probable que venga a continuación. Y luego otra. Y otra. Así, token a token, construye toda la respuesta.
Cuando le preguntas "¿cuál es la capital de Francia?", el modelo no "sabe" que es París en el sentido en que tú lo sabes. Ha visto, durante su entrenamiento, millones de textos donde "la capital de Francia es" va seguido casi siempre de "París". Reproduce ese patrón con altísima probabilidad. El resultado es correcto, pero el mecanismo detrás es predicción estadística entrenada sobre cantidades enormes de texto, no comprensión del hecho.
De dónde sale ese conocimiento: el entrenamiento
Antes de que puedas usarlo, un LLM pasa por un proceso de entrenamiento en el que se le muestran cantidades masivas de texto (libros, páginas web, artículos, código) y se ajustan sus parámetros internos para que se vuelva cada vez mejor prediciendo la siguiente palabra de esos textos. Después de esa fase inicial, suele pasar por un ajuste adicional para que sus respuestas sean más útiles y sigan mejor las instrucciones que le das.
Esto tiene una implicación directa: el modelo "sabe" lo que estaba en sus datos de entrenamiento, hasta una fecha de corte, y nada de lo que ocurrió después, salvo que la herramienta que lo usa le dé acceso a buscar información actual por fuera.
Por qué a veces "alucina"
Como el modelo siempre va a producir la palabra más probable, incluso cuando no tiene información suficiente sobre el tema, puede generar algo que suena fluido y seguro pero que es falso. A esto se le llama alucinación: el modelo no "miente" a propósito (no tiene intención), simplemente completa el patrón con lo más plausible según lo que aprendió, aunque no corresponda a un hecho real.
Un ejemplo típico: pedirle una cita o una referencia bibliográfica exacta. Si no la recuerda con precisión, es capaz de construir una que tiene toda la forma de una cita real (autor, año, título) pero que no existe. La fluidez del texto no es garantía de veracidad.
Qué significa esto para cómo lo usas
- No le pidas certeza absoluta en datos concretos (fechas, cifras, citas) sin verificarlos por otra vía. Es bueno para redactar, resumir, reformular; es poco fiable como fuente única de hechos precisos.
- Cuanto más contexto le des, mejor predice. Si tu pregunta es ambigua, el modelo tiene que "adivinar" qué patrón seguir, y el margen de error crece. Esto es la base de la próxima lección, sobre cómo construir buenos prompts.
- No tiene memoria entre conversaciones salvo que la herramienta específica lo implemente aparte. Cada conversación nueva, en general, empieza sin recordar las anteriores.
- Su conocimiento tiene fecha de corte. Para información reciente, necesita que la herramienta le dé acceso a buscar en la web o en una base de datos actualizada; por sí solo, no lo sabe.
La idea central para llevarte
Un LLM es una máquina de predecir texto extraordinariamente buena, entrenada con cantidades de datos que ningún humano podría leer en varias vidas. Eso le permite escribir, resumir, traducir y programar con una fluidez que sorprende. Pero fluidez no es lo mismo que verdad, y predicción no es lo mismo que razonamiento consciente. Entender esa diferencia es lo que te va a permitir usarlo con criterio en vez de con fe ciega.