¿Qué es la IA generativa?

📐 Fundamento

Formalicemos solo lo necesario. Un modelo de lenguaje calcula una distribución de probabilidad sobre el siguiente token dado todo lo anterior:

Si el texto anterior es "El cielo de San Miguel al mediodía es de color", el modelo asigna algo como:

Después muestrea uno (no siempre el más probable — eso le da variedad), lo pega al final del texto, y repite: el texto crecido se convierte en la nueva entrada, y el modelo predice el siguiente. Este ciclo se llama generación autorregresiva: cada token generado condiciona al siguiente.

Dos consecuencias prácticas enormes salen de esta mecánica:

1. No hay "respuesta guardada". El modelo no busca tu pregunta en un archivo: fabrica la respuesta token a token. Por eso la misma pregunta puede dar respuestas distintas cada vez.
2. Plausible no es lo mismo que verdadero. El modelo optimiza "qué texto suena como lo que vendría aquí", no "qué es cierto". Casi siempre coinciden, porque el texto del que aprendió es mayormente correcto. Pero cuando no coinciden, el modelo elige lo plausible — y ahí nacen las alucinaciones (capítulo 4).

El parámetro que controla cuánta variedad hay al muestrear se llama temperatura: baja (cerca de 0) hace que elija casi siempre el token más probable (respuestas repetibles, conservadoras); alta lo hace más creativo y arriesgado.

📐 Fundamento

El proceso de partir texto en tokens se llama tokenización. Un ejemplo ilustrativo:

"pupusa revuelta con curtido"  →  ["pup", "usa", " revuel", "ta", " con", " curt", "ido"]

Los tokenizadores se construyen buscando los fragmentos más frecuentes en el corpus de entrenamiento — que es mayoritariamente inglés. Consecuencia directa: el inglés se tokeniza eficiente (1 palabra ≈ 1 token muchas veces) y el español paga impuesto:

Reglas de pulgar que te van a servir toda la vida:

¿Y por qué te importa contar tokens si no pagás por palabra en la app de chat? Por dos razones:

1. La ventana de contexto se mide en tokens (siguiente sección): saber cuánto "pesa" tu documento te dice si cabe en la conversación.
2. Si algún día usás la API (capítulo 2), ahí sí se factura por token, y el español sale más caro que el inglés por la misma idea.

📐 Fundamento

Puntos clave sobre la ventana de contexto:

• Se mide en tokens e incluye todo: tus mensajes, las respuestas del modelo, los archivos adjuntos, y las instrucciones invisibles que la app agrega (el system prompt).
• Los tamaños en 2026 van de decenas de miles a millones de tokens según el modelo. Una ventana de 200 000 tokens aguanta unas 150 000 palabras en español — varios libros como este.
• No es memoria permanente. Cada chat nuevo arranca con la pizarra limpia: el modelo no recuerda conversaciones anteriores (salvo que la app implemente alguna función de memoria explícita por encima, que es otra cosa).
• El rendimiento se degrada antes del límite. Aunque quepan 200 000 tokens, los modelos tienden a prestar menos atención a lo que quedó "en el medio" de un contexto larguísimo — el fenómeno se conoce como lost in the middle. Una conversación de tres horas con veinte temas mezclados produce peores respuestas que un chat fresco y enfocado.

¿Por qué existe el límite? Porque el mecanismo interno del transformer compara cada token con todos los demás: el costo crece rápidamente con la longitud. Ventanas más grandes cuestan más cómputo, así que el tamaño es siempre una decisión de ingeniería, no un capricho.

📐 Fundamento

Entrenamiento (training). Sucedió una vez, antes de que el modelo llegara a tus manos:

• Se le mostraron billones de tokens de texto (web, libros, código).
• Para cada fragmento, el modelo predijo el token siguiente, se midió cuánto erró, y se ajustaron sus parámetros — los miles de millones de números internos que codifican todo lo que "sabe".
• Costó meses de cómputo en decenas de miles de chips especializados y decenas o cientos de millones de dólares. Lo hacen un puñado de empresas en el mundo.
• Terminó en una fecha de corte (knowledge cutoff): el modelo no vio nada publicado después de ese día.

Inferencia (inference). Sucede cada vez que mandás un mensaje:

• El modelo recibe tu texto, lo tokeniza, y genera la respuesta token a token con sus parámetros congelados.
• No aprende nada: tu conversación no modifica ni un parámetro. Si le corregís un error, lo "recuerda" solo mientras la corrección esté en la ventana de contexto de ese chat.
• Es rápida y barata comparada con el entrenamiento: por eso millones de personas pueden usar el mismo modelo a la vez.

Consecuencias que vas a usar a diario:

1. El modelo no sabe nada posterior a su corte de conocimiento. Preguntale por el resultado del partido de anoche y, si no tiene búsqueda web conectada, o te dice que no sabe o — peor — inventa.
2. "Lo corregí y ya aprendió" es falso. Mañana, en un chat nuevo, comete el mismo error. La corrección vive en el contexto, no en el modelo.
3. Vos nunca entrenás nada. Tu única palanca es la inferencia: qué contexto le das (tu prompt, tus documentos) para condicionar la predicción. La buena noticia: esa palanca es enormemente poderosa, y este libro entero trata de cómo usarla.

📐 Fundamento

Esto te da una regla para anticipar la confiabilidad de una respuesta antes de verificarla. La confianza que merece una afirmación del modelo crece con la frecuencia y consistencia del tema en sus datos de entrenamiento:

Fijate en el patrón: el modelo es más fuerte exactamente en lo que más le pedimos como estudiantes (explicar conceptos establecidos) y más débil en lo que parece más fácil (un dato puntual). Es lo contrario de una enciclopedia, que es perfecta para el dato puntual y mala para explicarte algo a tu medida.

Otro factor mecánico: el modelo no tiene un medidor interno de "qué tan seguro estoy" que te muestre. El tono seguro es un estilo aprendido del texto humano, no una señal de certeza. En el capítulo 4 vamos a convertir esta tabla en un protocolo de verificación completo.

📐 Fundamento

La segunda educación tiene dos etapas, ambas muchísimo más baratas que el entrenamiento base:

1. Fine-tuning supervisado (ajuste fino). Se toma el modelo base y se le sigue entrenando, pero ya no con internet crudo sino con decenas de miles de conversaciones ejemplares escritas o curadas por humanos: pregunta del usuario → respuesta ideal del asistente. El modelo aprende el patrón "esto es un diálogo donde yo soy un asistente que responde claro, completo y al grano". No le mete conocimiento nuevo significativo: le da formato y rol.

2. RLHF (Reinforcement Learning from Human Feedback — aprendizaje por refuerzo con retroalimentación humana). Después del fine-tuning, el modelo genera dos o más respuestas a la misma pregunta y personas evaluadoras eligen cuál es mejor (más útil, más honesta, menos dañina). Con millones de esas comparaciones se entrena un mecanismo de recompensa, y el modelo se ajusta para producir el tipo de respuesta que los humanos prefieren. El resultado es lo que sentís como "personalidad": sigue instrucciones, admite que no sabe (a veces), rechaza pedidos dañinos, mantiene un tono.

Dos consecuencias sutiles pero importantes para vos:

• La amabilidad es entrenada, no sentida. Cuando el modelo dice "¡excelente pregunta!", no hay nadie impresionado. El RLHF premia respuestas que agradan, y eso produce un sesgo real hacia la complacencia: tiende a darte la razón, a suavizar críticas y a no contradecirte. Si querés evaluación honesta de tu trabajo, tenés que pedirla explícitamente ("señalame los errores sin suavizar").
• Los rechazos también son entrenados. Cuando se niega a algo, no "decidió" moralmente: cae en patrones de comportamiento moldeados por sus entrenadores. Distintas empresas entrenan límites distintos — por eso los modelos difieren en qué aceptan.