AMD lanza el EPYC 6 Venice: CPUs de servidor de 256 núcleos en 2nm de TSMC para la era de los agentes de IA

AMD lanzó el 10 de noviembre su sexta generación de procesadores de servidor EPYC, iniciando los envíos de la línea Venice —fabricada con el proceso de 2nm de TSMC— a grandes clientes de centros de datos. Microsoft Azure ya ejecuta dos nuevos tipos de instancia sobre estos chips, y varios fabricantes de servidores han comenzado a enviar sus sistemas. Los procesadores Venice incorporan 256 núcleos, una mejora del 31% en IPC respecto a la generación anterior EPYC Turin para cargas de trabajo de IA, y marcan el primer despliegue de PCIe Gen 6 en una CPU de servidor de producción.

Arquitectura Zen 6: dos variantes de núcleo

El EPYC 6 Venice utiliza dos variantes de la arquitectura Zen 6 de AMD. El núcleo Zen 6 estándar está orientado a cargas de trabajo de alta frecuencia, con modelos superiores que ofrecen 96 núcleos, una frecuencia base de 4.05 GHz y hasta 5.3 GHz en modo boost. La variante más densa Zen 6c está diseñada para maximizar el número de núcleos, alcanzando 256 núcleos a 2.55 GHz base en 512 hilos. AMD atribuye la mejora del 31% en IPC frente a Turin en cargas de trabajo de IA al soporte del formato FP16 y a las instrucciones VNNI-INT8 mejoradas, muy utilizadas en la inferencia de redes neuronales.

Diseñado para arquitecturas de agentes de IA

AMD posiciona explícitamente al EPYC 6 en torno a las cargas de trabajo de agentes de IA, en las que los clústeres de GPU ejecutan la inferencia de redes neuronales mientras las CPU orquestan las llamadas a herramientas y la lógica que ejecutan esos agentes. La compañía afirma que logra 3.3 veces más operaciones de agentes de IA por vatio que la CPU Vera de Nvidia, una cifra basada en pruebas internas que no ha sido verificada de forma independiente. Dan McNamara, vicepresidente senior y gerente general de la unidad de Computación y IA Empresarial de AMD, declaró en el lanzamiento: "La IA está ampliando significativamente el papel de la CPU en cada capa del centro de datos." La propuesta también tiene un ángulo económico: ejecutar herramientas de agentes en chips EPYC puede reducir los costos de licenciamiento de software con precios por núcleo, como las bases de datos empresariales.

PCIe Gen 6 y ancho de banda de memoria

EPYC Venice es la primera CPU de servidor de producción en implementar PCIe Gen 6, duplicando el ancho de banda por carril en comparación con PCIe Gen 5. La plataforma admite 16 canales de memoria DDR5 —frente a los 12 de Turin—, elevando el ancho de banda máximo de memoria a 1.6 TB/s por socket. Este mayor rendimiento de E/S es clave para las cargas de trabajo de inferencia de IA que necesitan transmitir rápidamente desde la memoria los pesos de modelos de gran tamaño.

Disponibilidad y precios

La plataforma con socket SP7 ya está disponible. Los sistemas basados en SP8, junto con la variante EPYC 9006X con caché mejorada y la variante EPYC 9006LP con memoria LPDDR5X, llegarán en 2027. La línea EPYC 9006 abarca 31 modelos en ambas plataformas, con precios de entrada de alrededor de 700 dólares y el modelo insignia de 256 núcleos, el EPYC 9996, con un precio de 14,904 dólares. Según informó SiliconANGLE, Microsoft Azure ya ha desplegado dos nuevos tipos de instancia sobre EPYC 6 optimizados para inferencia de IA y software de diseño de chips.