El «context rot» explica por qué tu chatbot de IA empeora cuanto más larga es la conversación
Haz la misma pregunta dos veces a un asistente de IA en una conversación larga —una vez al principio, otra tras una hora de ida y vuelta— y a menudo obtendrás una respuesta peor la segunda vez, aunque nada haya cambiado en la pregunta y la conversación esté lejos del límite de contexto anunciado del modelo. Los investigadores tienen un nombre para esto: context rot, el declive medible en la calidad de salida de un modelo a medida que crece la cantidad de texto en su ventana de contexto, independientemente de si ese texto es realmente relevante para la tarea.
Esto importa porque todo el discurso comercial en torno a los modelos de IA modernos gira en torno al tamaño del contexto. Los proveedores anuncian ventanas de 200.000, un millón, incluso 10 millones de tokens, dando a entender que más grande significa más capaz. El context rot demuestra lo contrario: la capacidad dentro de esa ventana no es uniforme, y la mayor parte se degrada mucho antes de llegar al techo.
Lo que realmente muestra la investigación
La demostración más clara proviene del estudio de Chroma de 2025, que puso a prueba 18 modelos de frontera —de todos los laboratorios principales— en tareas idénticas con distintas longitudes de entrada. Todos y cada uno de los modelos empeoraron de forma medible al aumentar la longitud de entrada, incluso en tareas diseñadas explícitamente para ser resolubles sin importar el tamaño del contexto. La degradación no se debía a que el modelo se quedara sin espacio; se debía a que su atención se diluía a lo largo de más texto.
Esto se basa en el hallazgo previo de "perdido en el medio" de investigadores de Stanford (Liu et al., publicado en TACL en 2024), que mostró una curva de fiabilidad en forma de U: los modelos manejan bien la información al principio o al final de una entrada larga, pero la información enterrada en el medio se usa de forma menos fiable, sin importar cuán claramente esté expresada. Una evaluación posterior llamada NoLiMa, realizada en 2025, encontró que para muchos modelos la longitud de contexto efectiva —el punto a partir del cual la fiabilidad real empieza a caer— era de alrededor de 2.000 tokens, una fracción pequeña de los más de 100.000 tokens que la mayoría de estos modelos afirman manejar.
El problema se agrava en los agentes de IA que operan a lo largo de muchos pasos en vez de una sola pregunta. Un preprint de junio de 2026 sobre búsqueda de largo horizonte encontró que, a medida que crece el contexto acumulado de un agente durante una tarea de varios pasos, este tiende cada vez más a rendirse pronto o a dar respuestas con reservas en lugar de completar la tarea —justo lo contrario de lo que se esperaría de una herramienta pensada para trabajar de forma autónoma durante periodos más largos. El mismo estudio probó siete estrategias de mitigación en tres categorías y descubrió que el resumen periódico y la poda de contexto —eliminar activamente información obsoleta en vez de dejar que se acumule— superaban a simplemente usar un modelo con una ventana más grande.
Por qué ocurre
La explicación mecánica se remonta a cómo funciona la atención en los transformers: cada token del contexto compite por una porción limitada del presupuesto de atención del modelo. Añadir más tokens significa que, en promedio, cada uno —incluso los que importan— recibe menos de ese presupuesto. Un modelo no lee tu conversación como tú lees este artículo, de forma secuencial y con memoria perfecta; vuelve a ponderar todo lo que hay en la ventana en cada respuesta, y una ventana más grande simplemente significa más competencia por la misma capacidad fija.
Algunos equipos han descubierto que la degradación no siempre es gradual —algunos informes describen modelos que mantienen un rendimiento estable hasta un umbral de longitud y luego caen bruscamente, en lugar de un declive suave. La comunidad investigadora no ha resuelto este punto, pero ambos bandos coinciden en la conclusión central: el tamaño bruto del contexto es un techo, no una garantía, y mucho uso real ya opera más allá del punto de rendimiento fiable, mucho antes de alcanzar ese techo.
Qué significa esto si usas herramientas de IA a diario
Para un usuario habitual de chatbots, la solución práctica es sencilla y ya está en tus manos: inicia conversaciones nuevas más a menudo. Si llevas 45 minutos de ida y vuelta con un asistente a través de una docena de cambios de tema, no asumas que todavía tiene una lectura clara de tu pregunta original —es plausible que esté ahogado en su propio historial de conversación. Replantear tu pregunta real con claridad, en lugar de confiar en que el modelo la rescate del historial, ayuda de forma medible.
Para quienes construyen sobre estos modelos —chatbots, herramientas internas, agentes de IA que gestionan flujos de trabajo de varios pasos— la conclusión es más concreta: no trates una ventana de contexto grande como sustituto de la recuperación y el resumen. Volcar toda una base de conocimiento, un repositorio de código o un conjunto de documentos en el contexto solo porque la ventana técnicamente lo admite es exactamente el modo de fallo que describe la investigación. Compactar el contexto periódicamente, recuperar solo lo relevante para el paso actual, y replantear explícitamente las restricciones clave cerca del final de un prompt largo —donde los modelos leen de forma más fiable— todo esto supera de forma medible confiar únicamente en el tamaño de la ventana.
La lección más amplia es que "ventana de contexto" y "contexto utilizable" son números distintos, y la brecha entre ambos suele ser mucho mayor de lo que sugieren las hojas de especificaciones de los proveedores. Trata el tamaño de la ventana como tratarías la capacidad anunciada de un disco duro frente a su espacio real utilizable: es real, pero no es el número que debería guiar tu flujo de trabajo real.