HBM4 Memory wird zum wahren Engpass im AI Chip Design

In den letzten zwei Jahren drehte sich die Diskussion über KI-Hardware um FLOPS — wie viele Billionen Gleitkommaoperationen ein Chip pro Sekunde verarbeiten kann. Dieser Rahmen ist mittlerweile veraltet. Im Jahr 2026 ist die bindende Einschränkung für KI-Training und Inferenz nicht die Rechenleistung, sondern die Speicherbandbreite. Die Branche nennt dies die „Memory Wall", und HBM4 – die neueste Generation von High-Bandwidth Memory – ist der aktuelle Versuch, sie zu durchbrechen, auch wenn die Zahlen zeigen, dass es sich um eine Übergangslösung handelt, nicht um eine endgültige Lösung.

Warum die Bandbreite und nicht die Rechenleistung der Engpass ist

Ein moderner KI-Beschleuniger kann weit mehr Matrixmultiplikationen pro Sekunde durchführen, als er mit Daten versorgen kann. Große Sprachmodelle mit Hunderten von Milliarden Parametern müssen für jedes generierte Token enorme Mengen an Gewichtsdaten zwischen Speicher und Rechenkernen bewegen. Wenn der Speicher nicht mithalten kann, bleibt das teure Rechen-Silizium untätig und wartet auf Daten – ein Problem, das Ingenieure als „memory-bound" bezeichnen. Aus diesem Grund wird die NVIDIA Vera Rubin Plattform mit acht HBM4-Stacks ausgeliefert, die eine theoretische Bandbreite von 22 TB/s und 288 GB Kapazität bieten, und warum die konkurrierende AMD MI400-Serie mit Instinct MI455X mit 12 HBM4-Stacks für 432 GB Kapazität und 19,6 TB/s kontert – ein Bandbreitensprung von 145 % gegenüber den 8 TB/s des MI350 der Vorgängergeneration.

Was sich mit HBM4 geändert hat

HBM4 verdoppelt die Speicher-Schnittstellenbreite auf 2.048 Bit pro Stack, gegenüber dem schmaleren Bus von HBM3, und ermöglicht so etwa 1,5+ TB/s pro einzelnen Stack mit Kapazitäten von bis zu 48 GB. Stapelt man mehrere davon zusammen – wie es NVIDIA und AMD tun – erhält man die oben genannten zweistelligen Terabyte-Bandbreitenwerte. Dies ist kein schrittweises Update; es ist eine strukturelle Neugestaltung der Art und Weise, wie Speicher-Dies mit der darunterliegenden Logikschicht kommunizieren, und erforderte, dass sowohl Samsung als auch SK Hynix im Februar 2026 mit der Massenproduktion begannen, nachdem Samsung die Einführung bereits einmal aufgrund von Ausbeuteproblemen verschoben hatte.

Das Versorgungsproblem, über das niemand spricht

Hier ist der Teil, der jeden beunruhigen sollte, der auf KI-Infrastruktur aufbaut: Jede Einheit der HBM4-Produktionskapazität von 2026 aller drei Lieferanten – SK Hynix, Samsung und Micron – war bereits bis Ende des ersten Quartals 2026 ausverkauft und von NVIDIA, AMD und dem TPU-Team von Google gebucht. SK Hynix hält etwa 50-55 % Marktanteil, Samsung 35-40 % und Micron abgeschlagene 5-10 %, wobei Micron erst jetzt auf 15.000 dedizierte Wafer bis Jahresende hochfährt. Die Preise spiegeln die Knappheit wider: HBM3 kostet etwa 200 $ pro Stack, HBM3E etwa 300 $ und HBM4 etwa 500 $ – ein Aufpreis, der in die Stückliste jedes KI-Beschleunigers und letztlich in die GPU-Stundenpreise der Cloud-Anbieter einfließt.

Das ist wichtig, weil es neu definiert, wer im Grenzbereich der KI konkurrieren kann. Ein Startup oder ein mittelgroßer Cloud-Anbieter kann nicht einfach mehr HBM4 bestellen, um zu skalieren – die Wafer sind bereits ein Jahr im Voraus reserviert. Die Rechenkapazität wird zunehmend nicht durch Chipdesign-Erfolge begrenzt, sondern durch Speicherlieferverträge, die 12–18 Monate zuvor unterzeichnet wurden.

Was das für Käufer und Entwickler bedeutet

Wenn Sie 2026 KI-Infrastruktur evaluieren, ist die Speicherbandbreite pro Dollar jetzt eine nützlichere Vergleichsmetrik als rohe TFLOPS. Ein GPU mit mehr Rechenleistung, aber unzureichender Speicherbandbreite wird bei realen Workloads schlechter abschneiden als ein besser ausbalanciertes Design, insbesondere bei der Inferenz, wo die Tokenerzeugung stark speichergebunden ist. Teams, die Inferenzdienste mit großem Kontext oder hohem Durchsatz aufbauen, sollten die tatsächlichen Tokens pro Sekunde unter Last benchmarken, anstatt sich auf Spitzen-FLOPS-Spezifikationen zu verlassen, da die Lücke zwischen theoretischer und tatsächlicher Leistung heute in erster Linie eine Frage der Speicherbandbreite ist.

Für alle, die mehrjährige GPU- oder Cloud-Verträge abschließen, sollten Sie bedenken, dass die HBM4-Versorgungsengpässe struktureller und nicht vorübergehender Natur sind – rechnen Sie mit anhaltendem Preisdruck und Zuteilungsknappheit mindestens bis 2027, während die Fabs ihre Kapazitäten hochfahren. Der nächste echte Sprung wird nicht allein von einer schnelleren HBM5-Spezifikation kommen; er wird von architektonischen Änderungen kommen – wie die Verlagerung des Speichers näher an die Recheneinheiten durch Chiplet-Verpackung oder die Erforschung von Processing-in-Memory – die die Datenmenge reduzieren, die überhaupt bewegt werden muss.