AIO APEX

Anthropic cria equipa interna de design de chips para reduzir custos de inferência do Claude e dependência da Nvidia

Tom's Hardware
Compartilhar:
Anthropic cria equipa interna de design de chips para reduzir custos de inferência do Claude e dependência da Nvidia

A Anthropic confirmou que está a formar uma equipa interna de engenheiros de semicondutores para conceber chips de IA personalizados para os seus modelos Claude, juntando-se à Google, Microsoft e Amazon na construção de silicon proprietário para cargas de trabalho de inferência de IA.

Por que a Anthropic está a avançar para o silicon personalizado

Apesar de manter parcerias com a Google e a Broadcom para capacidade de TPU, processadores AWS Trainium, GPUs da série AMD MI450 e hardware da Nvidia através da Microsoft Azure, a economia de executar o Claude em escala de produção com chips de terceiros — especialmente o caro hardware da Nvidia — empurrou a empresa para a integração vertical. A Anthropic descreve o esforço como uma «abordagem multi-chip», focada no co-design de hardware e modelos para maximizar a eficiência de inferência e reduzir os custos por token à medida que a procura dos clientes acelera.

Samsung em negociações como parceira de fabrico

A Anthropic está a recrutar ativamente engenheiros com «um historial comprovado no desenvolvimento de designs de semicondutores concluídos». A Samsung Electronics está alegadamente em discussões exploratórias como parceira de fundição, potencialmente utilizando o seu avançado processo de fabrico de 2 nanómetros. Nenhum acordo formal foi anunciado e a Anthropic não divulgou um cronograma para a prontidão do primeiro chip ou se planeia fabricar algum componente internamente.

Inferência, não treino — uma aposta mais restrita

Fundamentalmente, os chips personalizados da Anthropic visam cargas de trabalho de inferência — o centro de custos para servir o Claude a clientes em tempo real — em vez do treino, que requer enormes clusters de GPU em paralelo. Esse é um âmbito mais restrito do que o que as TPUs da Google abordaram inicialmente, e potencialmente um caminho mais rápido para poupanças de custos significativas. O silicon personalizado da Google levou cerca de quatro anos de iteração antes de deslocar significativamente o hardware da Nvidia para cargas de trabalho em grande escala; o foco inferência-em-primeiro-lugar da Anthropic poderia comprimir esse prazo.

O esforço de silicon personalizado complementa, em vez de substituir, as parcerias de hardware existentes da Anthropic. A empresa contratou aproximadamente 3,5 gigawatts de capacidade de TPU da Google e Broadcom que entrará em linha em 2027, mais de 300 megawatts do centro de dados Colossus da SpaceX e até 2 gigawatts de chips da série AMD MI450. Conforme relatado pela Tom's Hardware, a equipa de design interna da Anthropic está nas fases iniciais de recrutamento e design, ainda não em fase de produção.

A corrida para controlar a pilha de IA

O movimento da Anthropic espelha o manual de cada grande laboratório de IA que atingiu a escala de produção. A Google construiu as TPUs. A Amazon construiu o Trainium e o Inferentia. A Microsoft está a co-desenvolver o Maia com a OpenAI. A Meta está a construir o seu próprio chip Iris. O fio condutor: a escala suficiente, a margem perdida na economia de aluguer de GPU é grande o suficiente para justificar o custo de capital e engenharia do silicon personalizado. Para a Anthropic, que cobra por token da API do Claude e compete em qualidade e preço do modelo, qualquer redução material no custo de inferência por token alarga diretamente a sua posição competitiva.

Originally reported by Tom's Hardware. Read the original article for additional details.

View original source
Compartilhar:
Anthropic cria equipa interna de design de chips para reduzir custos de inferência do Claude e dependência da Nvidia | AIO APEX