Anthropic forma un equipo interno de diseño de chips para reducir los costos de inferencia de Claude y la dependencia de Nvidia

Anthropic ha confirmado que está formando un equipo interno de ingenieros de semiconductores para diseñar chips de IA personalizados para sus modelos Claude, uniéndose a Google, Microsoft y Amazon en la construcción de silicon propietario para cargas de trabajo de inferencia de IA.
Por qué Anthropic se adentra en el silicon personalizado
A pesar de mantener asociaciones con Google y Broadcom para capacidad de TPU, procesadores AWS Trainium, GPUs de la serie AMD MI450 y hardware de Nvidia a través de Microsoft Azure, la economía de ejecutar Claude a escala de producción en chips de terceros — especialmente el costoso hardware de Nvidia — ha empujado a la empresa hacia la integración vertical. Anthropic describe el esfuerzo como un «enfoque multichip», centrado en el codiseño de hardware y modelos para maximizar la eficiencia de inferencia y reducir los costos por token a medida que la demanda de los clientes se acelera.
Samsung en conversaciones como socio fabricante
Anthropic está reclutando activamente ingenieros con «un historial probado de diseños de semiconductores terminados». Se informa que Samsung Electronics está en conversaciones exploratorias como socio de fundición, potencialmente utilizando su avanzado proceso de fabricación de 2 nanómetros. No se ha anunciado ningún acuerdo formal y Anthropic no ha revelado un cronograma para la disponibilidad del primer chip ni si planea fabricar algún componente internamente.
Inferencia, no entrenamiento — una apuesta más acotada
Fundamentalmente, los chips personalizados de Anthropic apuntan a las cargas de trabajo de inferencia — el centro de costos para servir Claude a los clientes en tiempo real — en lugar del entrenamiento, que requiere enormes clústeres de GPU en paralelo. Ese es un alcance más estrecho que el que abordaron inicialmente las TPU de Google, y potencialmente un camino más rápido hacia ahorros de costos significativos. El silicon personalizado de Google tardó aproximadamente cuatro años de iteración antes de desplazar significativamente el hardware de Nvidia para cargas de trabajo a gran escala; el enfoque de inferencia primero de Anthropic podría comprimir ese cronograma.
El esfuerzo de silicon personalizado complementa, en lugar de reemplazar, las asociaciones de hardware existentes de Anthropic. La empresa ha contratado aproximadamente 3,5 gigavatios de capacidad de TPU de Google y Broadcom que entrará en línea en 2027, más de 300 megavatios del centro de datos Colossus de SpaceX y hasta 2 gigavatios de chips de la serie AMD MI450. Según informó Tom's Hardware, el equipo de diseño interno de Anthropic se encuentra en las primeras etapas de contratación y diseño, aún no en etapa de producción.
La carrera por controlar el stack de IA
El movimiento de Anthropic refleja el manual de cada gran laboratorio de IA que ha alcanzado la escala de producción. Google construyó las TPU. Amazon construyó Trainium e Inferentia. Microsoft está codesarrollando Maia con OpenAI. Meta está construyendo su propio chip Iris. El hilo conductor: a escala suficiente, el margen perdido en la economía de alquiler de GPU es lo suficientemente grande como para justificar el costo de capital e ingeniería del silicon personalizado. Para Anthropic, que cobra por token de la API de Claude y compite en calidad y precio del modelo, cualquier reducción material en el costo de inferencia por token amplía directamente su posición competitiva.
Originally reported by Tom's Hardware. Read the original article for additional details.
View original source