NPU-Spezifikationen zählen jetzt mehr als Chip-Benchmarks für KI-Funktionen im Smartphone

Den größten Teil der Geschichte der Smartphone-Branche über reduzierte sich Kaufberatung auf eine einfache Heuristik: CPU- und GPU-Benchmarks prüfen, den schnellsten Chip im eigenen Budget wählen. Diese Heuristik ist inzwischen aktiv irreführend. 2026 ist die Komponente, die darüber entscheidet, ob ein Smartphone die auf der Verpackung beworbenen KI-Funktionen tatsächlich ausführen kann, die neuronale Verarbeitungseinheit (NPU), und die NPU-Leistung variiert zwischen Smartphones mit fast identischen CPU-Werten so stark, dass Käufer, die sich an Benchmarks orientieren, zunehmend mit Hardware enden, die nicht das kann, wofür sie gekauft wurde.

Die Lücke wurde unmöglich zu ignorieren, sobald KI-Funktionen auf dem Gerät aufhörten, optionale Ergänzungen zu sein, und zu tragenden Teilen des Kernerlebnisses wurden: Live-Anruftranskription und -zusammenfassung, generative Fotobearbeitung auf dem Gerät, lokale Dokumentzusammenfassung ohne Serverumweg und Echtzeitübersetzung, die ohne Datenverbindung funktioniert. Jede große Plattform – Apple Intelligence, Gemini Nano, Samsungs Galaxy AI – führt inzwischen einen erheblichen Teil ihrer Funktionen lokal aus, gerade um die Latenz, die Kosten und die Datenschutzexposition zu vermeiden, die mit dem Senden jeder Anfrage an die Cloud einhergehen. Welche Funktionen auf einem gegebenen Smartphone lokal statt serverseitig laufen, wird fast vollständig durch NPU-Durchsatz und Speicherbandbreite bestimmt – nicht durch die CPU- oder GPU-Werte, die die Testüberschriften dominieren.

Warum CPU-Benchmarks die KI-Leistung nicht mehr vorhersagen

Eine moderne Flaggschiff-CPU und eine zwei Generationen alte Flaggschiff-CPU unterscheiden sich in Geekbench vielleicht um 20-30 % – eine Lücke, die ein typischer Nutzer im Alltag kaum bemerkt. Die NPU-Lücke zwischen denselben zwei Chips beträgt oft das 3- bis 5-Fache bei rohen TOPS (Tera-Operationen pro Sekunde), weil die NPU-Architektur sich weit schneller weiterentwickelt hat als das allgemeine CPU-Design, und die für die NPU reservierte Chipfläche von einem Rundungsfehler zu einem substanziellen Anteil des Chips gewachsen ist. Qualcomms Snapdragon 8 Elite Gen 5, MediaTeks Dimensity 9500 und Apples A19 Pro erzielen allesamt CPU-Benchmark-Werte in einer relativ engen Bandbreite – doch ihr anhaltender On-Device-LLM-Inferenzdurchsatz driftet deutlich auseinander, sobald ein Modell geladen wird, das groß genug ist, um nützlich zu sein (man denke an 3-8 Milliarden Parameter, den Bereich, auf den die meisten On-Device-Assistenzfunktionen inzwischen abzielen).

Speicherbandbreite und Kapazität des gemeinsamen Speichers verschärfen diese Lücke zusätzlich. Ein Modell mit mehreren Milliarden Parametern lokal auszuführen erfordert, mehrere Gigabyte an Gewichten in schnellen Speicher zu laden und sie dort ohne übermäßiges Auslagern zu halten. Ein Smartphone mit 8 GB RAM und einem Mittelklasse-Speichercontroller wird dasselbe On-Device-Modell drosseln oder schlicht verweigern, das ein Smartphone mit 12 GB oder mehr und einem breiteren Speicherbus problemlos bewältigt. Deshalb haben manche Hersteller 12 GB still und leise zum Mindeststandard ihrer "KI-Smartphone"-Stufe gemacht statt zu ihrer eigentlichen Performance-Flaggschiff-Stufe – RAM-Kapazität wurde zu einem Funktions-Gate, nicht nur zu einem Geschwindigkeitsregler.

Was Hersteller nicht ins Datenblatt schreiben

TOPS-Zahlen auf Datenblättern sind real, aber für Vergleiche nahezu nutzlos, da es keine standardisierte Benchmark-Methodik über Chiphersteller hinweg gibt – die von einem Anbieter genannte TOPS-Zahl spiegelt meist eine Best-Case-Messung wider, oft INT4-quantisiert und auf eine einzelne Operation bezogen, die kaum etwas mit der anhaltenden, mehrstufigen Inferenz während einer echten KI-Funktion wie Live-Transkription mit Zusammenfassung zu tun hat, die zwanzig Minuten lang durchgehend läuft. Thermisches Throttling spielt bei NPU-Arbeitslasten eine größere Rolle als bei CPU-Arbeitslasten, weil generative KI-Aufgaben tendenziell in längeren, anhaltenden Schüben laufen statt im für CPUs typischen kurzen, stoßweisen Muster – ein Smartphone mit schlechtem thermischem Design kann im Labortest eine starke TOPS-Zahl erzielen und trotzdem während einer echten, fünfzehnminütigen KI-Fotobearbeitungssitzung stark in unbrauchbares Terrain throtteln.

Das praktische Ergebnis ist, dass zwei im selben Quartal zu ähnlichen Preisen mit ähnlichen CPU/GPU-Benchmark-Werten gestartete Smartphones eine wirklich unterschiedliche Obergrenze dafür haben können, welche KI-Funktionen sie gut unterstützen – und dieser Unterschied taucht in einer klassischen Spezifikationsvergleichstabelle oder einem synthetischen Benchmark-Diagramm fast nie auf.

Wie man die KI-Fähigkeit eines Smartphones tatsächlich beurteilt

• Behandeln Sie die RAM-Kapazität als hartes Gate, nicht als netten Bonus. Wenn Ihnen On-Device-KI-Funktionen wichtig sind, sollten 12 GB 2026 Ihr praktisches Minimum für ein Smartphone sein, das Sie 2-3 Jahre behalten wollen, da On-Device-Modellgrößen eher wachsen als schrumpfen.
• Suchen Sie nach Tests zur anhaltenden Leistung, nicht nach TOPS-Behauptungen vom Launch-Tag. Medien, die ein Smartphone durch eine 15-20-minütige kontinuierliche KI-Arbeitslast laufen lassen und über das thermische Throttling-Verhalten berichten, liefern die Zahl, die tatsächlich die reale Nutzbarkeit vorhersagt; der von einem Hersteller genannte Spitzen-TOPS-Wert tut das nicht.
• Prüfen Sie, welche konkreten Funktionen im Kleingedruckten des Herstellers als "erfordert Cloud-Verbindung" statt "funktioniert offline" markiert sind. Das ist das ehrlichste verfügbare Signal, weil der Hersteller damit implizit zugibt, wo die Obergrenze der lokalen Inferenz seiner eigenen Hardware liegt – ein Smartphone, bei dem die meisten Flaggschiff-KI-Funktionen klammheimlich auf Cloud-Verarbeitung zurückfallen, sagt Ihnen, dass seine NPU die beworbene Arbeitslast tatsächlich nicht trägt.
• Gehen Sie nicht davon aus, dass der Flaggschiff-Chip dieser Generation einer Marke die Funktionsunterstützung der nächsten Generation garantiert. Softwaredefinierte KI-Funktionen werden nach dem Launch per Betriebssystem-Update hinzugefügt, und Hersteller haben bereits ein Muster gezeigt, neue On-Device-Funktionen nur auf ihre jeweils neuesten 1-2 Chip-Generationen zu beschränken – wodurch ältere, ansonsten fähige Flaggschiffe ohne Funktionen bleiben, die sie wahrscheinlich ausführen könnten.

Die CPU-Benchmark-Ära des Smartphone-Kaufs ging davon aus, dass rohe Rechenleistung das gesamte Erlebnis vorhersagt. On-Device-KI bricht diese Annahme eindeutig: Ein Smartphone kann schnell und trotzdem KI-unfähig sein, und die Spezifikation, die verrät, welches man hat, liegt mehrere Menüs tief in einem NPU-Datenblatt verborgen, das vor dem Kauf fast niemand liest.