OpenAIs Jalapeño-Chip übertrifft Nvidia Blackwell beim Inferenz-Durchsatz pro Watt

OpenAI hat seinen eigenen KI-Inferenz-Chip gebaut, Codename Jalapeño. Laut einer detaillierten technischen Analyse von SemiAnalysis vom 25. August liefert er bei wichtigen LLM-Workloads einen besseren Durchsatz pro Megawatt als Nvidias Blackwell-Beschleuniger.

Was Jalapeño ist und was er kann

Intern entwickelt und auf TSMCs N3P-Prozess gefertigt, ist Jalapeño ein gewichtsstatischer Systolic-Array-Chip mit 700W TDP, 15,4 TB/s HBM4-Speicherbandbreite und 13,4 PFLOPs MXFP4-Rechenleistung. Jedes Rack fasst 128 Chips; das System skaliert auf 2.048 Chips über 16 Racks.

SemiAnalysis testete A0-Ingenieursmuster an mehreren großen Modellen. Bei DeepSeek R1 überstieg Jalapeño 700 Tokens/Sekunde bei einem einzelnen Nutzer. Bei Kimi K2.5 näherte es sich 700 Tokens/Sekunde pro Nutzer — ein behaupteter 9x-Vorteil. Bei GPT-OSS wurden 1.400 Tokens/Sekunde pro Nutzer erreicht.

Der CUDA-Graben bröckelt womöglich

SemiAnalysis stellt fest, dass "OpenAIs Software-Fortschritt schneller vorankam als Nvidias" und erklärt, dass "der CUDA-Graben potenziell tot ist". Die Kernel-Leistung verbesserte sich in weniger als zwei Wochen um das Doppelte; das Team skalierte in acht Tagen von Einzelsystem-Konfigurationen auf Rack-Betrieb.

Das Design begann Mitte 2024; der Tape-out wurde im November 2025 abgeschlossen — ein 16-monatiger Zyklus. Die Massenproduktion ist hauptsächlich für Ende 2027 geplant. Trotz der Einschränkungen der Tests verändert Jalapeños Aufkommen die strategische Lage des gesamten KI-Hardware-Markts fundamental.