Les fenêtres de contexte ont grandi de 500× en trois ans — voici ce que les modèles d’IA frontière peuvent réellement faire aujourd’hui

De 4 000 à 2 000 000 tokens en trois ans

Quand GPT-3 a été lancé en 2020, sa fenêtre de contexte plafonnait à 4 096 tokens — de quoi couvrir quelques pages de texte. Cela imposait un schéma que les développeurs appellent encore « chunking » : découper les documents en fragments, traiter chaque fragment indépendamment, puis recoller les résultats. Ça marchait, mais on perdait le fil. Le modèle ne pouvait pas voir comment la fin d’un document se reliait à son début.

Trois ans plus tard, ce plafond a été pulvérisé. La famille Claude 4 d’Anthropic embarque 200 000 tokens de contexte en standard. La série Gemini 3.5 de Google pousse à 1 000 000 de tokens. GPT-5.6 Sol d’OpenAI, en aperçu limité depuis juin 2026, fonctionne à 2 000 000 de tokens — environ 1 500 pages de texte dense tenues simultanément en mémoire active. Ce n’est pas une amélioration incrémentale. C’est une catégorie différente de capacité.

Pourquoi la taille du contexte importe plus que l’intelligence du modèle

La plupart des articles sur les lancements de modèles d’IA se concentrent sur les scores de benchmark : le nouveau modèle score-t-il plus haut sur MMLU, MATH ou HumanEval ? L’extension de la fenêtre de contexte reçoit rarement la même attention, mais les ingénieurs qui déploient ces modèles à grande échelle vous diront qu’elle change plus l’utilité quotidienne que les gains bruts d’intelligence.

La raison est simple : la plupart des tâches du monde réel ne consistent pas à générer un texte astucieux à partir de rien. Elles consistent à traiter du matériel existant. Un avocat analysant un contrat de 400 pages. Un développeur déboguant une base de code de 50 000 lignes. Un chercheur synthétisant trois mois de données d’essais cliniques. Un analyste comparant les résultats trimestriels de douze filiales. Chacune de ces tâches implique de tenir en mémoire un large corpus de texte existant tout en raisonnant à son sujet — et pendant la majeure partie de l’histoire de l’IA, c’était le goulot d’étranglement.

Les fenêtres de contexte plus longues effondrent ce goulot. Le modèle peut désormais voir l’ensemble d’un coup.

Ce que cela permet réellement : quatre cas d’usage concrets

1. Analyse complète de base de code

Avec 200 000 tokens ou plus, un modèle peut ingérer une base de code de production de taille moyenne en une seule passe. C’est maintenant déployé en production dans des entreprises qui utilisent des outils comme GitHub Copilot Enterprise, Cursor et Claude Code. Au lieu de demander « que fait cette fonction ? », les ingénieurs demandent « où dans ce dépôt de 80 000 lignes se trouve la logique de réessai de paiement, et interagit-elle correctement avec le limiteur de débit ? » — et obtiennent des réponses précises parce que le modèle a lu les 80 000 lignes.

L’implication pratique pour les équipes : le temps d’intégration dans les grosses bases de code s’effondre. Un développeur nouveau sur un projet peut obtenir des réponses substantielles sur l’architecture en quelques minutes plutôt qu’en jours.

2. Analyse juridique et financière de documents longs

Cabinets d’avocats et institutions financières ont été les premiers adoptants des outils IA, mais les premiers déploiements étaient entravés par les limites de contexte. Analyser un accord de fusion signifiait le découper en sections, perdre les renvois, et manquer des clauses apparaissant page 3 mais qualifiées par le langage de la page 187.

Les modèles avec fenêtres de 1M+ tokens peuvent contenir le document entier. Les premiers résultats de pilotes dans des cabinets d’avocats suggèrent une réduction de 60 à 70 % du temps de relecture de contrat pour une première analyse, le modèle signalant des incohérences entre documents qui exigeaient auparavant qu’un associé senior les repère manuellement.

3. Mémoire de longue conversation sans stockage externe

L’architecture RAG (Retrieval-Augmented Generation) originale était, en partie, un contournement des fenêtres de contexte courtes. Si un modèle ne pouvait voir que quelques milliers de tokens, il fallait récupérer les fragments pertinents depuis une base vectorielle et les injecter dans le prompt. Ça fonctionne, mais cela nécessite de construire et maintenir une infrastructure de recherche, et peut manquer des informations pertinentes mais ayant un faible score de similarité sémantique.

Avec des fenêtres de plusieurs centaines de milliers de tokens, de nombreuses architectures RAG sont remplacées ou simplifiées. On peut maintenant déverser toute la base de connaissances directement dans le contexte pour les corpus plus petits. Pour les bots de service client gérant une documentation produit de moins de 500 pages, c’est déjà courant. L’étape de recherche disparaît ; la latence diminue ; la précision s’améliore parce que le modèle voit tout au lieu d’une tranche choisie.

4. Référence croisée multi-documents

Peut-être la capacité la plus sous-estimée : tenir plusieurs documents longs simultanément et raisonner à travers eux. Un acheteur public peut fournir 20 propositions de fournisseurs dans une seule session et demander au modèle de comparer les approches techniques, signaler les incohérences de prix, et identifier celles qui répondent à des exigences réglementaires spécifiques — le tout en une passe. C’était physiquement impossible il y a deux ans sans un travail d’ingénierie conséquent.

Les défis d’ingénierie encore ouverts

Les grandes fenêtres de contexte ne sont pas gratuites. Chaque token dans le contexte coûte du calcul lors de l’inférence, et le coût croît à peu près quadratiquement avec la longueur de séquence sous les mécanismes d’attention standard. Traiter 2 millions de tokens coûte des ordres de grandeur de plus que traiter 8 000 — c’est pourquoi les laboratoires frontières ont massivement investi dans l’attention sparse, l’attention en anneau, et d’autres innovations architecturales pour rendre l’inférence longue-contexte économiquement viable.

Il y a aussi le problème du « perdu au milieu », documenté dans des recherches de Stanford et d’autres : les modèles retrouvent systématiquement mieux les informations près du début et de la fin des longs contextes que celles enfouies au milieu. Cela s’améliore à chaque génération de modèle, mais ce n’est pas résolu. Les ingénieurs déployant des applications longue-contexte doivent être conscients que des informations critiques placées à la position 700 000 d’un prompt de 1 000 000 de tokens peuvent être moins fiables que celles à la position 1 ou 999 999.

La latence est une autre contrainte. Un prompt de 2 000 000 de tokens met plusieurs secondes à être traité même sur du matériel haut de gamme. Pour les cas interactifs nécessitant des réponses en moins d’une seconde, cela reste un plafond pratique. Les cas d’usage qui bénéficient le plus des longs contextes aujourd’hui sont les traitements par lots avec une tolérance à la latence plus élevée : analyse de documents nocturne, génération de rapports hebdomadaires, workflows de recherche asynchrones.

La prochaine frontière : la gestion dynamique du contexte

La prochaine évolution n’est pas seulement des fenêtres plus grandes — c’est une gestion plus intelligente de ce qu’elles contiennent. Des groupes de recherche chez DeepMind, Meta et plusieurs labos universitaires travaillent sur des modèles capables de compresser, élaguer et réorganiser dynamiquement leur contexte à mesure qu’il grandit, en retenant les informations les plus pertinentes et en écartant ce qui n’est plus nécessaire sans perdre le fil d’une tâche longue.

L’« ultra mode » agentique d’OpenAI dans GPT-5.6, qui orchestre plusieurs sous-agents sur une tâche, indique la direction : plutôt qu’un modèle tenant tout dans un seul contexte, les futurs systèmes pourraient coordonner des agents avec une mémoire spécialisée, en passant un état résumé entre eux. La fenêtre de 2M tokens d’aujourd’hui pourrait être une forme transitoire plutôt que l’architecture finale.

Enseignements concrets

• Auditez vos pipelines de chunking. Si vous avez construit une infrastructure RAG ou de chunking quand les limites de contexte étaient sous 32K, reconsidérez ces décisions. Beaucoup peuvent être simplifiées ou éliminées avec les fenêtres de contexte modernes, réduisant les coûts d’infrastructure et améliorant la précision.
• Testez spécifiquement la précision des longs contextes. Ne présumez pas qu’un contexte plus long signifie de meilleures réponses. Lancez des évaluations ciblées en plaçant des informations critiques à différentes positions dans votre contexte pour comprendre où votre modèle choisi est fiable et où il ne l’est pas.
• Pour l’analyse documentaire par lots, le long contexte est probablement maintenant votre meilleure architecture. La pénalité de latence est acceptable pour les workflows asynchrones, et les gains de précision du traitement document entier sont substantiels.
• Surveillez les courbes de coût. La tarification des longs contextes baisse rapidement à mesure que les laboratoires optimisent l’inférence. Un workflow qui était prohibitif à 200K tokens il y a six mois peut maintenant être viable à 1M tokens. Réévaluez chaque trimestre.