Los LLMs modernos se entrenan mediante una tarea deceptivamente simple: dada una secuencia de tokens, predice el siguiente. En la práctica, esto significa que el modelo ve miles de millones de fragmentos de texto y aprende a asignar probabilidades a cada posible continuación. El proceso se llama modelado de lenguaje causal o preentrenamiento auto-supervisado.

La función de pérdida es la entropía cruzada entre la predicción del modelo y el token real que aparece en los datos de entrenamiento. El gradiente de esa pérdida se propaga hacia atrás a través de miles de millones de parámetros, ajustándolos en incrementos minúsculos. Este proceso se repite billones de veces.

Lo que emerge de este proceso es sorprendente: el modelo no solo aprende ortografía y gramática. Aprende hechos, relaciones causales, estilos de escritura, razonamiento formal, código de programación, y formas de argumentar. Todo ello como subproducto de aprender a predecir texto.

Pero hay una trampa fundamental: el modelo no sabe cuándo sabe algo y cuándo no. Su función es producir texto plausible dado el contexto — y lo hace incluso cuando no hay datos de entrenamiento relevantes. Esta es la raíz de las alucinaciones: el modelo predice con confianza texto que parece factual pero es fabricado.

El preentrenamiento produce un modelo capaz pero difícil de usar. Para convertirlo en un asistente útil, OpenAI desarrolló RLHF (Reinforcement Learning from Human Feedback): evaluadores humanos clasifican respuestas del modelo, esas clasificaciones entrenan un modelo de recompensa, y ese modelo de recompensa se usa para afinar el LLM mediante aprendizaje por refuerzo.

El resultado es un modelo que no solo predice texto plausible, sino texto que los humanos califican como útil, inofensivo y honesto. Esta es la diferencia entre GPT-3 base y ChatGPT: el mismo mecanismo de predicción, pero orientado hacia respuestas que agrada a los evaluadores humanos.

Los errores de los modelos de lenguaje no son aleatorios — son sistemáticos y predecibles. Entender su taxonomía permite anticiparlos:

El problema más profundo no es que los LLMs cometan errores — es que no tienen un mecanismo confiable de metacognición. El modelo no puede comparar su salida contra una fuente de verdad durante la inferencia. Solo maximiza la probabilidad del siguiente token dado el contexto.

Cuando un modelo responde "Estoy seguro de que..." o "Definitivamente...", esas expresiones de confianza son patrones lingüísticos aprendidos del entrenamiento — no señales calibradas de certeza epistémica. La calibración de un modelo mide si su confianza expresada se corresponde con su precisión real. Los LLMs son notoriamente mal calibrados en dominios especializados.

Las técnicas modernas como el prompting de cadena de pensamiento (chain-of-thought) mejoran la precisión al forzar al modelo a externalizar pasos intermedios de razonamiento. Pero no eliminan el problema fundamental: el modelo puede razonar con confianza en la dirección equivocada.

Los LLMs no tienen memoria en el sentido humano. Lo que llaman "memoria" es en realidad cuatro mecanismos distintos que operan de manera muy diferente:

La arquitectura RAG (Retrieval-Augmented Generation) se ha convertido en el estándar para sistemas de IA que requieren acceso a información actualizada o especializada. El proceso tiene tres pasos: el usuario hace una pregunta, un sistema de recuperación busca fragmentos relevantes en una base de datos vectorial, y esos fragmentos se insertan en el contexto del LLM junto con la pregunta original.

La base de datos vectorial funciona convirtiendo documentos en embeddings — representaciones numéricas de significado — y almacenándolos. Cuando llega una consulta, se convierte también en un embedding y se buscan los documentos más similares por distancia coseno en el espacio vectorial.

Esta arquitectura resuelve dos problemas fundamentales: el corte de conocimiento del modelo (que no conoce eventos posteriores a su entrenamiento) y la imposibilidad de incluir toda la documentación interna de una empresa en el contexto. Harvey, el sistema de Allen & Overy, usa precisamente esta arquitectura para manejar contratos completos.

El mecanismo de autoatención permite que cada token de la secuencia "mire" a todos los demás tokens y decida cuánto peso darle a cada uno al actualizar su propia representación. Matemáticamente, para cada token se calculan tres vectores: Query (Q), Key (K) y Value (V).

La atención de un token sobre todos los demás se calcula como el producto escalar de su Query con los Keys de todos los tokens, normalizado con una softmax. El resultado es una distribución de pesos que determina cuánto del Value de cada token se incorpora a la representación actualizada. La fórmula es: Attention(Q,K,V) = softmax(QK^T / √d_k)V.

Los modelos modernos usan atención multi-cabeza (multi-head attention): ejecutan el mecanismo de atención en paralelo múltiples veces con diferentes matrices de proyección. Cada "cabeza" puede capturar diferentes tipos de relaciones — una cabeza puede especializarse en relaciones sintácticas, otra en referencia anafórica, otra en relaciones semánticas. GPT-3 tiene 96 cabezas de atención en sus capas más grandes.

La ventaja decisiva sobre las RNN es el procesamiento paralelo: en una RNN, el token 1.000 solo puede "saber" del token 1 si la información viajó paso a paso a través de 999 pasos intermedios (y se degradó en el proceso). En un Transformer, el token 1.000 puede atender directamente al token 1 en un solo paso de atención.

El costo computacional de la autoatención escala cuadráticamente con la longitud de la secuencia: si doblas el contexto, cuadruplicas los cálculos de atención. Esto explica por qué expandir ventanas de contexto es tan costoso y por qué empresas como Anthropic e Google han invertido en variantes eficientes como Sparse Attention y Flash Attention.

Las leyes de escala (Scaling Laws, Kaplan et al. 2020) demostraron empíricamente que el rendimiento de los transformers mejora de manera predecible con más parámetros, más datos y más cómputo. Esta predictibilidad fue lo que justificó las inversiones masivas en modelos cada vez más grandes — y lo que hizo posible anticipar las capacidades de GPT-4 antes de entrenarlo.

Un agente LLM es un sistema donde el modelo de lenguaje no solo genera texto, sino que decide qué acciones ejecutar, las ejecuta a través de herramientas externas, observa los resultados, y usa esa observación para decidir el siguiente paso. El loop fundamental es: Observar → Razonar → Actuar → Observar.

Las herramientas que puede invocar un agente incluyen: buscadores web, intérpretes de código, APIs externas, bases de datos, sistemas de archivos, y en implementaciones avanzadas, control de aplicaciones de escritorio. El modelo decide cuándo y cómo usar cada herramienta basándose en su representación del objetivo actual.

El patrón ReAct (Reasoning + Acting), propuesto en 2022, establece que el modelo alterne explícitamente entre razonamiento textual y acciones. El modelo escribe primero su pensamiento ("Necesito buscar cuándo fue fundada esta empresa para calcular su antigüedad"), luego ejecuta la acción (búsqueda web), y luego incorpora el resultado en su razonamiento. Este patrón mejora significativamente la coherencia de los agentes en tareas complejas.

Los agentes introducen riesgos cualitativamente diferentes a los de los chatbots conversacionales. El más documentado es el prompt injection: un actor malicioso puede incrustar instrucciones en contenido que el agente lee (una página web, un email, un documento) que redirigen su comportamiento. En 2023, investigadores demostraron que un agente de correo electrónico basado en GPT-4 podía ser comprometido incluyendo instrucciones en el cuerpo de un email que leía.

Otros riesgos incluyen la acumulación de errores en cadenas de acciones largas (un error en el paso 3 puede comprometer los pasos 4 al 20), y el problema de autorización implícita: el modelo puede asumir que tiene permiso para ejecutar acciones que el usuario no anticipó cuando definió el objetivo original.

La industria converge en que los agentes efectivos requieren: supervisión humana en puntos de decisión críticos, restricciones explícitas sobre qué herramientas pueden usar y en qué condiciones, y mecanismos de reversión para deshacer acciones incorrectas.

La integración de visión en los LLMs sigue principalmente dos enfoques. En el primero, la imagen se procesa con un codificador visual (típicamente un Vision Transformer o ViT) que la convierte en una secuencia de embeddings visuales. Esos embeddings se proyectan al mismo espacio vectorial que los tokens de texto y se concatenan con el prompt antes de entrar al Transformer de lenguaje.

En modelos como GPT-4V (lanzado en septiembre de 2023), una imagen de 512×512 píxeles se divide en parches de 16×16 y cada parche se convierte en un token visual. Una imagen puede generar entre 256 y 1.024 tokens adicionales — lo que explica por qué el procesamiento de imágenes consume contexto significativamente.

El modelo CLIP (Contrastive Language-Image Pre-training, OpenAI 2021) fue un precursor crucial: se entrenó para alinear representaciones de texto e imagen minimizando la distancia entre embeddings de imágenes y sus descripciones textuales. CLIP aprendió que una foto de un gato y el texto "un gato" deben estar cerca en el espacio vectorial. Esta alineación es la base de modelos de generación de imágenes como DALL-E y Stable Diffusion.

El audio introduce una complejidad adicional: es una señal temporal continua. Los sistemas como Whisper (OpenAI, 2022) convierten el audio en espectrogramas — representaciones visuales de la frecuencia en el tiempo — y los procesan con un encoder de tipo Transformer. El texto resultante de la transcripción puede entonces alimentar un LLM.

Los modelos nativamente multimodales como GPT-4o procesan el audio directamente sin convertirlo primero a texto, lo que elimina la latencia y la pérdida de información prosódica (entonación, énfasis, pausa). Esto permite al modelo detectar si alguien está hablando con incertidumbre o con confianza — información que se perdería en la transcripción.

La frontera actual está en la generación multimodal coherente: producir simultáneamente texto, imagen y audio que sean mutuamente consistentes. Gemini 1.5 de Google y GPT-4o representan el estado del arte en 2024, pero la coherencia entre modalidades en tareas complejas sigue siendo un problema abierto.

La interpretabilidad (o explicabilidad) de los modelos de IA es el campo que intenta entender qué cálculos realiza un modelo para producir sus salidas. No es solo curiosidad académica: tiene implicaciones directas para seguridad, regulación y confianza.

En 2022, el Tribunal Supremo de Wisconsin revisó el caso State v. Loomis, donde el sistema COMPAS — una IA para predicción de reincidencia — había influido en una sentencia de seis años de prisión. La defensa argumentó que el algoritmo era una "caja negra" cuyo razonamiento no podía ser auditado. El tribunal admitió el argumento pero mantuvo la sentencia. La opacidad de los modelos impide la auditoría judicial de decisiones que afectan libertades individuales.

El campo ha desarrollado varias familias de técnicas. La probing entrena clasificadores lineales sobre representaciones internas del modelo para detectar qué información está codificada en qué capas. Se ha usado para demostrar que los LLMs codifican información sintáctica en capas tempranas y semántica en capas más profundas.

Los mapas de atención visualizan qué tokens "miran" a qué otros tokens durante el procesamiento. Son la técnica más accesible pero también la más discutida: investigaciones de Jain y Wallace (2019) y Wiegreffe y Pinter (2019) llegaron a conclusiones opuestas sobre si los patrones de atención explican las predicciones del modelo.

Los Sparse Autoencoders (SAE), usados por Anthropic, aprenden a descomponer las activaciones del modelo en una suma de vectores dispersos y especializados — las "características". Esta técnica ha producido los hallazgos más concretos hasta la fecha: características que corresponden a conceptos lingüísticos, culturales, y emocionales específicos.

La steering vectores (intervención de activaciones) permite modificar directamente las representaciones internas del modelo durante la inferencia para ver cómo cambia el comportamiento. En 2023, investigadores de Anthropic usaron este método para hacer que Claude expresara pensamientos que normalmente suprimiría, revelando tensiones entre sus objetivos de ser útil y sus restricciones de seguridad.

El campo está lejos de ofrecer explicaciones completas. Pero cada técnica añade una pieza al rompecabezas de entender cómo 70.000 millones de parámetros producen respuestas que parecen — y a veces son — inteligentes.