ای‌ام‌دی EPYC 6 Venice را عرضه کرد: پردازنده‌های سرور ۲۵۶ هسته‌ای با فناوری ۲ نانومتری TSMC برای عصر ایجنت‌های هوش مصنوعی

ای‌ام‌دی در تاریخ ۱۰ نوامبر، نسل ششم پردازنده‌های سرور EPYC خود را معرفی کرد و عرضه سری Venice را که با فناوری ۲ نانومتری TSMC ساخته شده، برای مشتریان بزرگ مراکز داده آغاز نمود. مایکروسافت آژور هم‌اکنون دو نوع نمونه (instance) جدید را روی این تراشه‌ها اجرا می‌کند و چندین سازنده بزرگ سرور نیز عرضه سیستم‌های خود را شروع کرده‌اند. پردازنده‌های Venice با ۲۵۶ هسته و بهبود ۳۱ درصدی IPC نسبت به نسل قبلی EPYC با نام Turin برای بارهای کاری هوش مصنوعی عرضه می‌شوند و همچنین اولین استقرار PCIe نسل ۶ در یک پردازنده سرور تجاری محسوب می‌شوند.

معماری Zen 6: دو نوع هسته

EPYC 6 Venice از دو نوع معماری Zen 6 ای‌ام‌دی استفاده می‌کند. هسته استاندارد Zen 6 برای بارهای کاری با فرکانس بالا طراحی شده و بهترین مدل‌ها تا ۹۶ هسته، فرکانس پایه ۴.۰۵ گیگاهرتز و فرکانس افزایشی ۵.۳ گیگاهرتز ارائه می‌دهند. نوع متراکم‌تر Zen 6c برای حداکثر تعداد هسته طراحی شده و به ۲۵۶ هسته با فرکانس پایه ۲.۵۵ گیگاهرتز در ۵۱۲ رشته (thread) می‌رسد. ای‌ام‌دی افزایش ۳۱ درصدی IPC نسبت به Turin در بارهای کاری هوش مصنوعی را به پشتیبانی از فرمت FP16 و بهبود دستورالعمل‌های VNNI-INT8 - که به‌طور گسترده در استنتاج شبکه عصبی استفاده می‌شوند - نسبت می‌دهد.

طراحی‌شده برای معماری‌های ایجنت هوش مصنوعی

ای‌ام‌دی به‌طور صریح EPYC 6 را حول بارهای کاری ایجنت هوش مصنوعی قرار داده است؛ جایی که خوشه‌های GPU استنتاج شبکه عصبی را اجرا می‌کنند در حالی که CPU‌ها فراخوانی ابزارها و منطقی را که این ایجنت‌ها اجرا می‌کنند، هماهنگ می‌سازند. این شرکت مدعی است که عملکرد ایجنت هوش مصنوعی به ازای هر وات آن ۳.۳ برابر بیشتر از CPU مدل Vera انویدیا است - رقمی که بر اساس آزمایش‌های داخلی به‌دست آمده و به‌طور مستقل تأیید نشده است. دن مک‌نامارا، معاون ارشد و مدیر کل واحد محاسبات و هوش مصنوعی سازمانی ای‌ام‌دی، در مراسم عرضه گفت: "هوش مصنوعی به‌طور قابل‌توجهی نقش CPU را در تمام لایه‌های مرکز داده گسترش می‌دهد." این معرفی همچنین یک بُعد اقتصادی دارد: اجرای ابزارهای ایجنت روی تراشه‌های EPYC می‌تواند هزینه‌های مجوز نرم‌افزارهایی که بر اساس تعداد هسته قیمت‌گذاری می‌شوند، مانند پایگاه‌های داده سازمانی، را کاهش دهد.

PCIe نسل ۶ و پهنای باند حافظه

EPYC Venice اولین پردازنده سرور تجاری است که PCIe نسل ۶ را پیاده‌سازی می‌کند و پهنای باند هر لِین را نسبت به PCIe نسل ۵ دو برابر می‌کند. این پلتفرم از ۱۶ کانال حافظه DDR5 پشتیبانی می‌کند - افزایشی نسبت به ۱۲ کانال در Turin - که پهنای باند حافظه را به ۱.۶ ترابایت بر ثانیه در هر سوکت می‌رساند. این افزایش توان ورودی/خروجی برای بارهای کاری استنتاج هوش مصنوعی که باید وزن‌های مدل‌های بزرگ را به سرعت از حافظه جاری کنند، اهمیت دارد.

زمان عرضه و قیمت‌گذاری

پلتفرم سوکت SP7 هم‌اکنون در دسترس است. سیستم‌های مبتنی بر SP8، همراه با مدل‌های EPYC 9006X با حافظه نهان تقویت‌شده و نوع EPYC 9006LP با حافظه LPDDR5X، در سال ۲۰۲۷ عرضه خواهند شد. سری EPYC 9006 شامل ۳۱ مدل در هر دو پلتفرم است و قیمت‌ها از حدود ۷۰۰ دلار آغاز شده و مدل پرچمدار ۲۵۶ هسته‌ای EPYC 9996 با قیمت ۱۴٬۹۰۴ دلار فهرست شده است. به گزارش SiliconANGLE، مایکروسافت آژور هم‌اکنون دو نوع نمونه جدید را روی EPYC 6 - بهینه‌شده برای استنتاج هوش مصنوعی و نرم‌افزارهای طراحی تراشه - به‌کار گرفته است.