Le « context rot » explique pourquoi votre chatbot IA se détériore à mesure qu'une conversation s'allonge
Posez la même question deux fois à un assistant IA dans une conversation longue — une fois au début, une fois après une heure d'échanges — et vous obtiendrez souvent une réponse moins bonne la seconde fois, même si rien n'a changé dans la question et que la conversation est loin de la limite de contexte annoncée du modèle. Les chercheurs ont un nom pour cela : le context rot, le déclin mesurable de la qualité des réponses d'un modèle à mesure que la quantité de texte dans sa fenêtre de contexte augmente, indépendamment du fait que ce texte soit réellement pertinent pour la tâche.
Cela compte parce que tout l'argumentaire commercial autour des modèles d'IA modernes repose sur la taille du contexte. Les fournisseurs annoncent des fenêtres de 200 000, un million, voire 10 millions de tokens, sous-entendant que plus grand signifie plus capable. Le context rot démontre l'inverse : la capacité à l'intérieur de cette fenêtre n'est pas uniforme, et la plupart se dégrade bien avant d'atteindre le plafond.
Ce que montre réellement la recherche
La démonstration la plus claire vient de l'étude de Chroma menée en 2025, qui a testé 18 modèles de pointe — de tous les grands laboratoires — sur des tâches identiques avec des longueurs d'entrée variables. Chaque modèle, sans exception, s'est dégradé de façon mesurable à mesure que la longueur d'entrée augmentait, même sur des tâches explicitement conçues pour être résolubles indépendamment de la taille du contexte. La dégradation ne venait pas d'un manque de place ; elle venait du fait que l'attention du modèle se diluait sur davantage de texte.
Cela s'appuie sur la découverte antérieure du « perdu au milieu » par des chercheurs de Stanford (Liu et al., publié dans TACL en 2024), qui a montré une courbe de fiabilité en forme de U : les modèles traitent bien l'information en tout début ou toute fin d'une longue entrée, mais l'information enfouie au milieu est utilisée de manière moins fiable, quelle que soit sa clarté. Une évaluation ultérieure appelée NoLiMa, menée en 2025, a révélé que pour de nombreux modèles, la longueur de contexte effective — le point à partir duquel la fiabilité réelle commence à chuter — se situait autour de 2 000 tokens, une fraction infime des plus de 100 000 tokens que la plupart de ces modèles prétendent gérer.
Le problème s'aggrave pour les agents IA qui opèrent sur de nombreuses étapes plutôt que sur une seule question. Un prépublication de juin 2026 sur la recherche à long horizon a montré qu'à mesure que le contexte accumulé d'un agent croît pendant une tâche à plusieurs étapes, celui-ci tend de plus en plus à abandonner prématurément ou à donner des réponses incertaines plutôt qu'à terminer la tâche — l'inverse de ce qu'on attendrait d'un outil censé fonctionner de manière autonome sur de plus longues périodes. La même étude a testé sept stratégies d'atténuation répARTIES en trois catégories et a constaté que le résumé périodique et l'élagage du contexte — supprimer activement les informations obsolètes plutôt que de les laisser s'accumuler — surpassaient le simple fait d'utiliser un modèle à fenêtre plus grande.
Pourquoi cela se produit
L'explication mécanique renvoie au fonctionnement de l'attention dans les transformers : chaque token du contexte entre en compétition pour une part limitée du budget d'attention du modèle. Ajouter davantage de tokens signifie qu'en moyenne, chacun — même les tokens importants — reçoit une part plus faible de ce budget. Un modèle ne lit pas votre conversation comme vous lisez cet article, de façon séquentielle avec un rappel parfait ; il repondère tout ce qui se trouve dans la fenêtre à chaque réponse, et une fenêtre plus grande signifie simplement plus de compétition pour la même capacité fixe.
Certaines équipes ont constaté que la dégradation n'est pas toujours progressive — plusieurs rapports décrivent des modèles maintenant des performances stables jusqu'à un certain seuil de longueur, puis chutant brutalement, plutôt qu'un déclin régulier. La communauté scientifique n'a pas tranché ce point, mais les deux camps s'accordent sur la conclusion centrale : la taille brute du contexte est un plafond, pas une garantie, et une grande partie de l'usage réel dépasse déjà le seuil de fiabilité bien avant d'atteindre ce plafond.
Ce que cela signifie si vous utilisez des outils d'IA au quotidien
Pour un utilisateur quotidien de chatbot, la solution pratique est simple et déjà à votre portée : démarrez de nouvelles conversations plus souvent. Si vous échangez avec un assistant depuis 45 minutes à travers une dizaine de changements de sujet, ne présumez pas qu'il a encore une lecture nette de votre question initiale — il est tout à fait plausible qu'il se noie dans son propre historique de conversation. Reformuler clairement votre véritable question, plutôt que de compter sur le modèle pour la retrouver dans l'historique, aide de façon mesurable.
Pour ceux qui construisent sur ces modèles — chatbots, outils internes, agents IA gérant des flux de travail à plusieurs étapes — la conclusion est plus concrète : ne traitez pas une large fenêtre de contexte comme un substitut à la recherche d'information et au résumé. Déverser une base de connaissances entière, une base de code ou un ensemble de documents dans le contexte simplement parce que la fenêtre les contient techniquement est exactement le mode d'échec que décrit la recherche. Compacter le contexte périodiquement, ne récupérer que ce qui est pertinent pour l'étape en cours, et reformuler explicitement les contraintes clés vers la fin d'un long prompt — où les modèles lisent de façon plus fiable — surpassent tous, de façon mesurable, le simple fait de compter sur la taille de la fenêtre.
La leçon plus large est que « taille de la fenêtre de contexte » et « contexte utilisable » sont deux chiffres différents, et l'écart entre les deux est souvent bien plus grand que ce que suggèrent les fiches techniques des fournisseurs. Traitez la taille de la fenêtre comme vous traiteriez la capacité annoncée d'un disque dur par rapport à son espace réellement utilisable — réelle, mais pas le chiffre qui devrait guider votre flux de travail réel.