AI model routing gagne du terrain sur le choix d'un seul frontier model pour tout.

Microsoft a fait un aveu inhabituel cette semaine en lançant MAI-Cyber-1-Flash : le modèle gère environ 90 % de sa charge de travail de sécurité en interne et ne redirige que les 10 % de tâches les plus difficiles vers GPT-5.4 d'OpenAI. Ce découpage réduit de moitié le coût d'exploitation du système complet. C'est un petit détail technique enfoui dans un lancement produit, mais il pointe vers un changement bien plus profond dans la manière dont les déploiements sérieux d'IA fonctionnent réellement en 2026 — et cela n'a rien à voir avec la quête du modèle le plus intelligent disponible.

La thèse est simple : payer le prix fort des modèles de pointe pour chaque requête est un gaspillage d'argent qui n'améliore pas la qualité des résultats pour la plupart de ce que les entreprises demandent réellement à l'IA. Un routeur placé entre l'application et les fournisseurs de modèles évalue chaque requête entrante et l'envoie au modèle capable de la traiter avec compétence au coût le plus bas. Les modèles de pointe sont réservés aux requêtes qui en ont vraiment besoin.

Pourquoi ce n'est pas juste du théâtre de réduction de coûts

Les économies ne sont pas marginales. Des travaux évalués par les pairs sur les systèmes de routage de type RouteLLM ont démontré une réduction des coûts d'environ 85 % tout en conservant 95 % de la qualité de sortie d'un modèle de pointe sur les benchmarks d'évaluation. Cet écart — 85 % moins cher, 5 % de perte de qualité — est l'argument entier en faveur du routage. La plupart des charges de travail en entreprise se situent bien en dessous du plafond de ce qu'un modèle de pointe peut faire : classification, extraction, Q&R basique, mise en forme, réponses standard au support client. Rien de tout cela n'a besoin du raisonnement de niveau GPT-5.4.

Les entreprises d'IA grand public l'ont compris les premières, par nécessité. Wishroll, une startup d'IA grand public, a utilisé la décomposition des tâches et le routage pour réduire ses coûts d'inférence de 95 % tout en passant à 1 million d'utilisateurs en 19 jours — un taux de croissance qui aurait été financièrement impossible avec une tarification uniforme au prix des modèles de pointe. Les entreprises appliquent désormais la même logique à la cybersécurité, au support client et aux outils internes, où le volume de requêtes est élevé et où la plupart des requêtes individuelles sont vraiment simples.

Là où le routage a vraiment du sens

Le routage n'est pas une sagesse universelle — il a un seuil. En dessous d'environ 100 000 utilisateurs actifs quotidiens, un seul modèle de milieu de gamme gérant tout est généralement moins cher à construire et à maintenir qu'une couche de routage. Les dépenses mensuelles en IA dans cette fourchette se situent généralement entre 10 000 et 100 000 dollars, et la complexité technique du routage, de la surveillance de ses décisions et de la détection des erreurs de classification peut facilement dépasser les économies réalisées.

Le calcul change dès que le volume et la complexité augmentent tous les deux. La répartition de MAI-Cyber-1-Flash de Microsoft est instructive ici : le tri des vulnérabilités de sécurité a un volume de requêtes énorme (chaque commit, chaque mise à jour de dépendance, chaque alerte) mais une distribution de difficulté très asymétrique — la plupart des problèmes signalés sont routiniers, une petite fraction nécessite un raisonnement vraiment difficile. C'est précisément la forme de charge de travail où le routage se rentabilise immédiatement.

Ce dont une couche de routage a réellement besoin

Trois composants font fonctionner le routage en pratique, et négliger l'un d'eux est la raison pour laquelle la plupart des tentatives échouent :

• Un classifieur rapide et peu coûteux. Le routeur lui-même doit être quasi gratuit à exécuter, sinon il perd son intérêt. Il s'agit généralement d'un petit modèle ou d'une heuristique basée sur des règles, pas d'un autre appel de niveau pointe.
• Un plancher de qualité avec repli. Lorsque la confiance du modèle bon marché est faible ou que sa sortie échoue à un test de cohérence, la requête doit escalader automatiquement vers un modèle plus fort — pas envoyer silencieusement une réponse faible.
• Une évaluation continue sur le trafic réel. Les décisions de routage dérivent à mesure que les schémas d'utilisation changent. Sans boucle de rétroaction qui réévalue la précision du routage par rapport aux résultats réels, le système redirige progressivement plus de trafic vers le niveau bon marché sans que personne ne le remarque jusqu'à l'arrivée de plaintes sur la qualité.

Le contexte tarifaire des modèles

L'économie ne fonctionne que parce qu'il existe désormais un véritable écart de prix par token entre des modèles capables. Les modèles phares équilibrés — tarifés approximativement entre 1,25 et 3 dollars par million de tokens en entrée, 10 à 15 dollars par million de tokens en sortie — traitent désormais la grande majorité des charges de travail des entreprises avec compétence. Ce niveau de prix n'existait pas avec une qualité significative il y a deux ans ; c'est ce qui rend le routage digne de l'investissement technique plutôt qu'une simple approximation.

Points clés à retenir

Si vous gérez des charges de travail d'IA à volume significatif, ne vous contentez pas d'un seul modèle de pointe pour chaque type de requête. Auditez d'abord la distribution réelle de vos requêtes — la plupart des équipes sont surprises de constater que 70 à 80 % de leur trafic consiste en des tâches de classification ou d'extraction routinières qu'un modèle de milieu de gamme traite à l'identique d'un modèle de pointe. Construisez le classifieur et le chemin de repli avant d'optimiser davantage, et instrumentez la précision du routage dès le premier jour plutôt que de faire confiance à son bon fonctionnement à mesure que l'usage évolue. Les équipes qui gagnent sur les coûts d'IA en 2026 ne sont pas celles qui ont accès au meilleur modèle — ce sont celles qui ont cessé de l'utiliser pour tout.