Llevas cuarenta mensajes con ChatGPT afinando un texto. Le recordaste tres veces que no use la palabra «innovador». Y de pronto, en la respuesta cuarenta y uno, ahí está otra vez. No es que la IA no te haga caso ni que «se haya vuelto tonta»: es que, muy probablemente, esa instrucción ya no existe para ella. Entender por qué —y son dos motivos distintos, no uno— cambia por completo la forma en que usas estas herramientas.
⚡ Lo esencial
- Un modelo de lenguaje no recuerda nada entre respuestas. En cada turno se le vuelve a leer toda la conversación desde cero.
- Esa relectura tiene un límite: la ventana de contexto. Cuando la conversación la supera, lo más antiguo se cae y el modelo deja de verlo, literalmente.
- Hay un segundo fallo, menos conocido: aunque quepa todo, lo que está en mitad del texto recibe menos atención que el principio y el final.
- Contexto y memoria no son lo mismo. La «memoria» de ChatGPT o Gemini es un resumen aparte que se reinyecta, no una ventana más grande.
- La solución práctica no es buscar el modelo con la ventana más gigante: es abrir chats nuevos y repetir lo importante al final.
Los tres síntomas de que ha perdido el hilo
Antes de la teoría, el diagnóstico. Si te pasa alguna de estas tres cosas, no estás ante un modelo defectuoso ni ante un mal día del servidor:
- Vuelve a un error que ya habías corregido. El caso clásico: la palabra prohibida, el formato que pediste, el nombre del cliente que escribías de otra manera.
- Te pregunta algo que ya le habías dicho. «¿A qué público va dirigido el texto?», cuando se lo explicaste con detalle veinte mensajes atrás.
- La calidad cae en picado a partir de cierto punto de una conversación larga, sin que tú hayas cambiado nada en la forma de pedir las cosas.
Los tres apuntan al mismo sitio. Para entenderlo hay que empezar por la unidad en la que estas máquinas miden el mundo.
Qué es un token y por qué todo se mide así
Un modelo de lenguaje no lee palabras: lee tokens, fragmentos de texto de tamaño variable. A veces un token es una palabra entera, a veces media palabra, a veces un signo de puntuación. «Casa» probablemente sea un token; «desafortunadamente» se partirá en varios.
La regla práctica que te vale para casi todo: en español, un token equivale más o menos a tres o cuatro caracteres, así que 1.000 tokens vienen a ser unas 700-750 palabras, aproximadamente una página y media de texto corrido. Y un detalle que sorprende: el español gasta más tokens que el inglés para decir lo mismo, porque estos modelos se entrenaron con muchísimo más texto en inglés y su vocabulario interno está optimizado para ese idioma. El mismo párrafo traducido puede costarte entre un 15 % y un 30 % más de tokens en español.
Todo se mide en tokens: lo que tú escribes, lo que responde el modelo, los archivos que adjuntas, las instrucciones ocultas del sistema y —si usas una API— lo que te facturan. Con eso ya podemos hablar del límite.
La ventana de contexto: una pizarra que se borra por un lado
Aquí está la idea que lo explica casi todo: un modelo de lenguaje no tiene memoria entre respuestas. Cada vez que pulsas enviar, el sistema le pasa la conversación entera otra vez —tus mensajes, sus respuestas, las instrucciones del sistema, los archivos— y el modelo la lee de cero como si fuera la primera vez. No «recuerda» la conversación: la vuelve a leer.
La ventana de contexto es cuánto texto cabe en esa relectura. Es un límite duro, medido en tokens, y lo comparte todo: tus preguntas, sus respuestas, los documentos que subiste y lo que el modelo está a punto de escribir. Piensa en una pizarra de tamaño fijo. Mientras la conversación quepa, todo bien. Cuando se llena, la aplicación empieza a borrar por la izquierda para hacer sitio a lo nuevo.
No es que la IA «olvide» tu instrucción. Es que en el momento de responder esa instrucción ya no estaba delante de sus ojos.
Y esto es importante: cuando eso ocurre en un chat, normalmente no te avisa. La conversación sigue en tu pantalla, tú puedes subir y leerla entera, y das por hecho que el modelo también. No es así. Tú ves el historial completo; él solo ve el trozo que cabe.
¿De qué tamaños hablamos? Los asistentes generales de hoy se mueven, en líneas generales, entre los 128.000 y el millón de tokens, según el modelo y el plan que tengas contratado. Como esas cifras cambian cada pocos meses, lo útil no es memorizarlas sino tener la equivalencia mental:
| Ventana | Equivale aproximadamente a | Qué puedes hacer con ella |
|---|---|---|
| 8.000 tokens | Unas 12 páginas | Una conversación corta o un documento breve. Se llena antes de lo que crees. |
| 32.000 tokens | Unas 48 páginas | Un informe mediano, una conversación de trabajo de una sesión. |
| 128.000 tokens | Unas 190 páginas | Un libro corto, o varios documentos a la vez. El estándar cómodo actual. |
| 200.000 tokens | Unas 300 páginas | Un contrato largo con todos sus anexos y una conversación entera encima. |
| 1.000.000 de tokens | Unas 1.500 páginas | Varios libros. Aquí el límite deja de ser el tamaño y pasa a ser la atención, como veremos ahora. |
La ventana anunciada no siempre es la que tú tienes. Los planes gratuitos suelen trabajar con ventanas más reducidas que los de pago del mismo producto, aunque por debajo esté la misma familia de modelos. Es una de las diferencias reales entre pagar y no pagar que casi nunca aparece en la tabla de precios; hablo de las demás en ¿merece la pena pagar por la IA?.
El fallo que casi nadie te cuenta: lo del medio se diluye
Supongamos que todo cabe. Ventana de un millón de tokens, tu documento de 300 páginas entra de sobra. Problema resuelto, ¿no? Pues no del todo.
Hay un efecto bien documentado en la literatura científica —el trabajo de referencia es «Lost in the Middle», de Liu y otros (Stanford, 2023)— según el cual estos modelos usan mejor la información que está al principio y al final del contexto que la que está en el medio. Cuando el dato relevante queda enterrado en la mitad de un texto largo, el rendimiento cae de forma medible, a veces por debajo del que tendrían sin darles el documento entero.
Los modelos han mejorado bastante en esto desde entonces, pero el patrón sigue ahí en mayor o menor medida. La consecuencia práctica es contraintuitiva y muy útil:
Meter más contexto puede empeorar la respuesta. Si adjuntas cinco documentos cuando el bueno es uno, estás diluyendo la señal en ruido. Menos contexto y mejor elegido gana casi siempre a «se lo doy todo por si acaso».
Y de ahí sale la regla de colocación que más rendimiento da por menos esfuerzo: la instrucción crítica va al final, después del material, justo antes de que el modelo empiece a escribir. Es el sitio de la ventana donde más peso tiene.
Contexto no es memoria (y confundirlos te cuesta caro)
«Pero si ChatGPT tiene memoria y se acuerda de mi nombre.» Cierto, y es un mecanismo completamente distinto que conviene no mezclar.
| Ventana de contexto | Memoria persistente | |
|---|---|---|
| Qué es | Todo el texto que el modelo lee para generar esta respuesta concreta. | Notas que el sistema guarda aparte sobre ti y vuelve a inyectar en conversaciones futuras. |
| Cuánto dura | Solo esta conversación, y solo mientras quepa. | Entre conversaciones distintas, hasta que la borres. |
| Fidelidad | Literal: ve el texto exacto. | Resumida: guarda una versión condensada, no la conversación entera. |
| Quién decide | Tú, con lo que escribes y adjuntas. | El sistema, aunque puedes revisarla y editarla en los ajustes. |
La memoria persistente es cómoda, pero no sustituye al contexto: es un resumen y, como todo resumen, pierde matices y puede equivocarse. Además ocupa sitio en la propia ventana cada vez que se inyecta. Si te importa lo que estos sistemas guardan sobre ti y cómo revisarlo o desactivarlo, lo desmenuzo en qué hacen ChatGPT, Gemini y Claude con tus conversaciones.
Siete tácticas para que no pierda el hilo
- Abre un chat nuevo por tarea
La costumbre de tener «el chat» abierto durante semanas es el origen de la mitad de los problemas. Una tarea, una conversación. Cuando cambies de tarea, cambia de chat: además de evitar el desbordamiento, quitas de en medio contexto viejo que puede contaminar la respuesta.
- Pide un traspaso antes de cerrar
Cuando una conversación se alarga y notas que va perdiendo calidad, pídele: «Resume en 15 líneas todo el contexto necesario para continuar esta tarea en una conversación nueva: objetivo, decisiones tomadas, restricciones y estilo». Copias ese bloque, abres un chat nuevo y lo pegas como primer mensaje. Es lo más parecido a un guardado de partida.
- Repite las restricciones críticas en cada petición
Si hay tres reglas que no se pueden romper —el tono, la longitud, la palabra prohibida—, escríbelas al final de cada mensaje importante. Parece pesado; es la diferencia entre que se cumplan y que no.
- Adjunta el archivo en vez de pegarlo a trozos
Un documento subido se procesa de una sola vez y suele gestionarse mejor que el mismo texto repartido en quince mensajes que se van alejando del final de la conversación.
- Usa proyectos e instrucciones personalizadas
Las tres grandes herramientas permiten fijar instrucciones que se reinyectan en todas las conversaciones de un espacio de trabajo. Es el sitio correcto para «escribe siempre en español de España, tono directo, sin adjetivos de marketing»: así no depende de que lo repitas ni de que sobreviva al recorte.
- Divide las tareas largas en fases con entregable
En vez de «escríbeme el informe entero», haz: esquema → sección por sección → revisión final pegando solo el texto ya montado. Cada fase empieza con el contexto limpio y con el resultado de la anterior, que es lo único que hace falta.
- Cuando algo vaya mal, edita el mensaje en vez de corregir a continuación
Si la respuesta se desvió, no sumes un mensaje diciendo «no, así no». Vuelve al mensaje que la provocó y edítalo. Reescribes la rama de la conversación en vez de alargarla, y el error deja de estar en el contexto tirando de las respuestas siguientes.
Cuándo el problema no es el contexto
Un consejo para no acabar culpando a la ventana de todo. Si el fallo aparece en la primera o segunda respuesta de una conversación corta, el contexto no tiene nada que ver. Ahí lo que suele pasar es otra cosa:
- La instrucción era ambigua. El arreglo está en cómo pides, no en cuánto cabe: cómo escribir buenos prompts.
- El modelo se inventó un dato. Eso es una alucinación, un fenómeno distinto y con sus propias señales de alarma: por qué la IA alucina.
- Estás usando la herramienta equivocada para la tarea. No todos los modelos rinden igual en lo mismo; comparé sus puntos fuertes en ChatGPT, Claude o Gemini: cómo elegir.
Hay una consecuencia económica de todo esto que pilla a mucha gente por sorpresa: como en cada turno se reenvía la conversación completa, el coste de una conversación larga no crece de forma lineal, sino mucho más rápido. Un chat de cincuenta turnos puede costar varias veces lo que estimaste. Conversaciones más cortas y el uso de caché de contexto —que la mayoría de proveedores ya ofrecen— son la diferencia entre una factura razonable y un susto.
La regla de oro
Si te quedas con una sola frase de todo esto, que sea esta: la IA no recuerda, relee. Todo lo demás se deduce de ahí. Por eso las conversaciones interminables se degradan, por eso conviene repetir lo importante al final, por eso un chat nuevo con un buen resumen rinde más que uno viejo con cuatrocientos mensajes, y por eso darle más material no siempre la hace más lista.
La buena noticia es que ninguna de las siete tácticas cuesta dinero ni requiere cambiar de herramienta. Son hábitos. Y una vez los tienes, la sensación de que «la IA se ha vuelto tonta» prácticamente desaparece —porque nunca fue eso—. Un buen sitio para practicarlos es una tarea con documentos largos de verdad, como transcribir y resumir reuniones: ahí la diferencia entre pedir bien y pedir mal se ve en el primer intento.
