AIO APEX

Anthropic baut internes Chip-Designteam auf, um Claude-Inferenzkosten zu senken und Nvidia-Abhängigkeit zu reduzieren

Tom's Hardware
Teilen:
Anthropic baut internes Chip-Designteam auf, um Claude-Inferenzkosten zu senken und Nvidia-Abhängigkeit zu reduzieren

Anthropic hat bestätigt, dass es ein internes Team von Halbleiteringenieuren aufbaut, um maßgeschneiderte KI-Chips für seine Claude-Modelle zu entwickeln, und gesellt sich damit zu Google, Microsoft und Amazon beim Aufbau von proprietärem Silicon für KI-Inferenz-Workloads.

Warum Anthropic auf Custom Silicon setzt

Trotz Partnerschaften mit Google und Broadcom für TPU-Kapazität, AWS Trainium-Prozessoren, GPUs der AMD MI450-Serie und Nvidia-Hardware über Microsoft Azure haben die Wirtschaftlichkeit des Betriebs von Claude im Produktionsmaßstab auf Drittanbieter-Chips — insbesondere teurer Nvidia-Hardware — das Unternehmen zur vertikalen Integration gedrängt. Anthropic beschreibt den Ansatz als «Multi-Chip-Strategie», die darauf abzielt, Hardware und Modelle gemeinsam zu entwickeln, um die Inferenzeffizienz zu maximieren und die Kosten pro Token zu senken, während die Kundennachfrage zunimmt.

Samsung in Gesprächen als Fertigungspartner

Anthropic rekrutiert aktiv Ingenieure mit «einer nachgewiesenen Erfolgsbilanz bei der Entwicklung fertiger Halbleiterdesigns». Samsung Electronics ist Berichten zufolge in Sondierungsgesprächen als Foundry-Partner und könnte dabei das fortschrittliche 2-Nanometer-Fertigungsverfahren einsetzen. Es wurde kein formaler Vertrag angekündigt, und Anthropic hat weder einen Zeitplan für die Fertigstellung des ersten Chips noch Pläne zur internen Fertigung bekannt gegeben.

Inferenz, nicht Training — eine engere Wette

Entscheidend ist, dass Anthropics Custom-Chips auf Inferenz-Workloads abzielen — das Kostenzentrum für die Bereitstellung von Claude an Kunden in Echtzeit — und nicht auf das Training, das massive parallele GPU-Cluster erfordert. Das ist ein engerer Fokus als der, den Googles TPUs anfangs angingen, und potenziell ein schnellerer Weg zu bedeutsamen Kosteneinsparungen. Googles Custom Silicon benötigte etwa vier Jahre Iteration, bevor es Nvidia-Hardware bei großskaligen Workloads bedeutsam verdrängte; Anthropics Inferenz-First-Fokus könnte diesen Zeitrahmen verkürzen.

Der Custom-Silicon-Ansatz ergänzt Anthropics bestehende Hardware-Partnerschaften, anstatt sie zu ersetzen. Das Unternehmen hat etwa 3,5 Gigawatt TPU-Kapazität von Google und Broadcom vertraglich gesichert, die 2027 in Betrieb geht, über 300 Megawatt aus SpaceXs Colossus-Rechenzentrum sowie bis zu 2 Gigawatt AMD MI450-Chips. Wie Tom's Hardware berichtet, befindet sich Anthropics internes Design-Team in frühen Rekrutierungs- und Designphasen, noch nicht in der Produktionsphase.

Das Rennen um den KI-Stack

Anthropics Schritt spiegelt das Playbook jedes großen KI-Labors wider, das Produktionsmaßstab erreicht hat. Google baute TPUs. Amazon baute Trainium und Inferentia. Microsoft co-entwickelt Maia mit OpenAI. Meta baut seinen eigenen Iris-Chip. Der gemeinsame Nenner: Ab einer ausreichenden Größenordnung ist der Margenverlust durch GPU-Mietkosten groß genug, um die Kapital- und Entwicklungskosten für Custom Silicon zu rechtfertigen. Für Anthropic, das pro Claude API-Token abrechnet und bei Modellqualität und -preis konkurriert, verbessert jede wesentliche Senkung der Inferenzkosten pro Token direkt seine Wettbewerbsposition.

Originally reported by Tom's Hardware. Read the original article for additional details.

View original source
Teilen:
Anthropic baut internes Chip-Designteam auf, um Claude-Inferenzkosten zu senken und Nvidia-Abhängigkeit zu reduzieren | AIO APEX