AI-Modell-Routing setzt sich gegenüber der Verwendung eines einzigen Frontier-Modells für alles durch.

Microsoft hat diese Woche mit der Veröffentlichung von MAI-Cyber-1-Flash ein ungewöhnliches Eingeständnis gemacht: Das Modell wickelt intern rund 90 % des Security-Workloads ab und leitet nur die schwierigsten 10 % der Aufgaben an OpenAIs GPT-5.4 weiter. Diese Aufteilung senkt die Kosten für den Betrieb des gesamten Systems um etwa die Hälfte. Es ist ein kleines technisches Detail, das in einem Produkt-Launch vergraben ist, aber es deutet auf eine viel größere Verschiebung hin, wie ernsthafte KI-Deployments im Jahr 2026 tatsächlich funktionieren – und das hat nichts mit der Jagd nach dem klügsten verfügbaren Modell zu tun.

Die These ist einfach: Für jede Anfrage den Frontier-Modell-Preis zu zahlen, ist Geldverschwendung, ohne die Output-Qualität für das meiste zu verbessern, was Unternehmen von KI tatsächlich verlangen. Ein Router, der zwischen der Anwendung und den Modellanbietern sitzt, bewertet jede eingehende Anfrage und leitet sie an das Modell weiter, das sie kompetent zu den niedrigsten Kosten bearbeiten kann. Frontier-Modelle bleiben den Anfragen vorbehalten, die sie tatsächlich brauchen.

Warum das nicht nur Theater um Kostensenkung ist

Die Einsparungen sind nicht marginal. Von Experten begutachtete Arbeiten zu Routingsystemen wie RouteLLM haben gezeigt, dass sie die Kosten um etwa 85 % senken und gleichzeitig 95 % der Output-Qualität eines Frontier-Modells in Benchmark-Evaluierungen erhalten. Diese Lücke – 85 % günstiger, 5 % Qualitätsverlust – ist das gesamte Argument für Routing. Die meisten Enterprise-Workloads liegen weit unter der Decke dessen, was ein Frontier-Modell leisten kann: Klassifizierung, Extraktion, grundlegende Q&A, Formatierung, routinemäßige Kunden-Support-Antworten. Keines davon benötigt GPT-5.4-taugliches Reasoning.

Consumer-KI-Unternehmen haben das zuerst aus Notwendigkeit herausgefunden. Wishroll, ein Consumer-KI-Startup, hat mit Task-Decomposition und Routing die Inferenzkosten um 95 % gesenkt und gleichzeitig die Nutzerbasis in 19 Tagen auf 1 Million skaliert – eine Wachstumsrate, die bei flachen Frontier-Modell-Preisen finanziell unmöglich gewesen wäre. Unternehmen wenden die gleiche Logik jetzt auf Cybersecurity, Kundensupport und interne Tools an, wo das Anfragevolumen hoch ist und die meisten einzelnen Abfragen wirklich einfach sind.

Wo Routing tatsächlich Sinn macht

Routing ist kein universelles Allheilmittel – es hat eine Untergrenze. Unterhalb von etwa 100.000 täglich aktiven Nutzern ist ein einzelnes Mid-Tier-Modell, das alles abwickelt, in der Regel günstiger zu bauen und zu warten als eine Routing-Schicht. Die monatlichen KI-Ausgaben in diesem Bereich liegen normalerweise zwischen 10.000 und 100.000 US-Dollar, und die technische Komplexität, einen Router zu betreiben, seine Routing-Entscheidungen zu überwachen und Fehlklassifizierungen zu erkennen, kann die erzielten Einsparungen leicht übersteigen.

Der Kalkül dreht sich, sobald sowohl Volumen als auch Komplexität steigen. Microsofts MAI-Cyber-1-Flash-Aufteilung ist hier lehrreich: Security Vulnerability Triage hat ein enormes Anfragevolumen (jeder Commit, jedes Dependency-Update, jeder Alert), aber eine stark verzerrte Schwierigkeitsverteilung – die meisten markierten Probleme sind Routine, ein kleiner Bruchteil erfordert wirklich schwieriges Reasoning. Das ist genau die Form von Workload, bei der sich Routing sofort auszahlt.

Was eine Routing-Schicht tatsächlich braucht

Drei Komponenten machen Routing in der Praxis funktionsfähig, und wenn man eine davon auslässt, scheitern die meisten Versuche:

• Ein schneller, günstiger Classifier. Der Router selbst muss nahezu kostenlos laufen, sonst verfehlt er seinen Zweck. Dies ist normalerweise ein kleines Modell oder eine regelbasierte Heuristik, kein weiterer Frontier-Tier-Call.
• Ein Qualitätsminimum mit Fallback. Wenn die Konfidenz des günstigen Modells niedrig ist oder seine Ausgabe einen Plausibilitätstest nicht besteht, muss die Anfrage automatisch an ein stärkeres Modell eskaliert werden – nicht stillschweigend eine schwache Antwort ausgeliefert werden.
• Kontinuierliche Evaluierung gegen echten Traffic. Routing-Entscheidungen driften, wenn sich Nutzungsmuster ändern. Ohne eine Feedback-Schleife, die die Routing-Genauigkeit anhand tatsächlicher Ergebnisse neu bewertet, leitet das System nach und nach mehr Traffic in die günstige Stufe um, ohne dass es jemand merkt – bis Qualitätsbeschwerden auftauchen.

Der Preishintergrund der Modelle

Die Ökonomie funktioniert nur, weil es jetzt eine echte Spanne bei den Preisen pro Token zwischen leistungsfähigen Modellen gibt. Ausgewogene Flaggschiff-Modelle – preislich etwa im Bereich von 1,25 bis 3 US-Dollar pro Million Input-Tokens, 10 bis 15 US-Dollar pro Million Output-Tokens – bewältigen jetzt den Großteil der Enterprise-Workloads kompetent. Diese Preiskategorie gab es vor zwei Jahren noch nicht mit sinnvoller Qualität; sie macht Routing zu einer lohnenden Engineering-Investition und nicht nur zu einer Randnotiz.

Handlungsempfehlungen

Wenn Sie KI-Workloads mit nennenswertem Volumen betreiben, greifen Sie nicht standardmäßig zu einem einzigen Frontier-Modell für jeden Anfragentyp. Prüfen Sie zuerst Ihre tatsächliche Abfrageverteilung – die meisten Teams sind überrascht, dass 70-80 % ihres Traffics Routine-Klassifizierungen oder Extraktionen sind, die ein Mid-Tier-Modell genauso gut wie ein Frontier-Modell erledigt. Bauen Sie den Classifier und den Fallback-Pfad, bevor Sie weiter optimieren, und instrumentieren Sie die Routing-Genauigkeit von Anfang an, anstatt darauf zu vertrauen, dass sie im Laufe der Nutzung korrekt bleibt. Die Teams, die 2026 bei den KI-Kosten gewinnen, sind nicht diejenigen mit Zugang zum besten Modell – sie sind diejenigen, die aufgehört haben, es für alles zu verwenden.