استخر حافظه CXL 3.0 از نمایش آزمایشگاهی وارد دیتاسنترهای عملیاتی می‌شود

اشتراک‌گذاری:
استخر حافظه CXL 3.0 از نمایش آزمایشگاهی وارد دیتاسنترهای عملیاتی می‌شود

دیتاسنترها در دو چرخه اخیر توسعه زیرساخت هوش مصنوعی عمدتاً صرف پیگیری پردازنده‌های گرافیکی شده‌اند. گلوگاه خاموشی که اکنون در جلسات برنامه‌ریزی ظرفیت نمایان می‌شود، حافظه DRAM است: هزینه بالایی دارد، به‌طور فیزیکی به سوکتی که در آن نصب شده محدود است، و به‌طور مرتب در یک سرور نیمه‌استفاده می‌ماند در حالی که سرور همسایه با کمبود مواجه شده و به دیسک سواپ می‌کند. CXL 3.0 — نسخه‌ای از استاندارد Compute Express Link که سوییچینگ واقعی و مدیریت فابریک را بر پایه ویژگی‌های پایه‌ای توسعه حافظه در CXL 1.1 و 2.0 اضافه می‌کند — مکانیزمی است که برای حل دقیق همین مسئله ساخته شده است. پس از سه سال نمایش در کنفرانس‌ها، سیلیکون لازم برای استقرار آن در یک رک واقعی دیگر در مرحله نمونه اولیه نیست.

چرا حافظه به گلوگاه جدید تبدیل شد

یک سرور دو-سوکتی مدرن با تعداد مشخصی از شکاف‌های DIMM برای هر پردازنده عرضه می‌شود، و این ظرفیت تا پایان عمر سرویس‌دهی به همان یک دستگاه متصل می‌ماند. بارهای کاری به‌ندرت حافظه را به‌طور یکسان مصرف می‌کنند: یک سرور پایگاه‌داده ممکن است از کمبود DRAM رنج ببرد در حالی که یک سرور لایه وب دو رک آن‌طرف‌تر با ۴۰ درصد بهره‌وری کار می‌کند. اپراتورها سالیان متمادی این مشکل ظرفیت محبوس را اندازه‌گیری کرده‌اند — بررسی ناوگان‌های مقیاس‌بزرگ همواره بخش قابل‌توجهی از DRAM تخصیص‌یافته را در هر لحظه بی‌کار نشان داده است، صرفاً به این دلیل که به دستگاه نادرست متصل است. خریدن حافظه بیشتر برای پوشش بدترین حالت اوج در هر سرور راه‌حل سنتی است، و همچنین گران‌ترین قلم در فهرست اجزای یک سرور پس از پردازنده و شتاب‌دهنده‌ها به‌شمار می‌رود.

CXL 3.0 واقعاً چه چیزی نسبت به نسخه‌های قبلی اضافه می‌کند

CXL 1.1 به یک شتاب‌دهنده یا کارت توسعه اجازه می‌داد حافظه سازگار از نظر کوهرنسی را با یک پردازنده میزبان از طریق لینکی مبتنی بر PCIe به اشتراک بگذارد، اما این ارتباط کاملاً نقطه‌به‌نقطه بود — یک دستگاه، یک میزبان. CXL 2.0 سوییچینگ تک‌سطحی را معرفی کرد، به‌طوری‌که یک استخر ماژول‌های حافظه می‌توانست پشت یک سوییچ قرار گیرد و به هر میزبانی که نیاز داشت تخصیص یابد، اگرچه تنها در یک توپولوژی نسبتاً محدود. CXL 3.0 که توسط کنسرسیوم CXL در اوت ۲۰۲۲ نهایی شد، سرعت خام لینک را به ۶۴ گیگاترانسفر بر ثانیه دو برابر می‌کند، سوییچینگ چندسطحی را اضافه می‌کند تا استخرها بتوانند تعداد بسیار بیشتری از میزبان‌ها و دستگاه‌ها را پوشش دهند، و کوهرنسی پیشرفته‌ای را معرفی می‌کند که به چندین میزبان اجازه می‌دهد بدون قفل‌گذاری نرم‌افزاری سنگینی که حافظه مشترک توزیع‌شده سنتی به آن نیاز داشته، یک ناحیه حافظه یکسان را به اشتراک بگذارند. همین بخش آخر — سوییچینگی که فراتر از چند دستگاه متصل مستقیم مقیاس می‌یابد — چیزی است که «توسعه حافظه» را به «استخر حافظه» به‌عنوان یک منبع در سطح کل ناوگان، به‌جای یک ارتقای تک‌سروری، تبدیل می‌کند.

زنجیره تأمین ابتدا باید خودش را می‌رساند

یک استاندارد، محصول نیست. عرضه استخر حافظه CXL 3.0 در یک رک واقعی به ریتایمرها و سوییچ‌هایی نیاز دارد که بتوانند سیگنالینگ ۶۴ گیگاترانسفر بر ثانیه را بدون خطا روی طول‌های واقعی کابل و بک‌پلین اجرا کنند، کنترلرهای حافظه‌ای که DRAM متصل به CXL را به‌عنوان ظرفیت قابل‌استفاده به سیستم‌عامل میزبان نمایش دهند و نه یک هدف عجیب‌وغریب شتاب‌دهنده، و پلتفرم‌های سروری با تعداد کافی لِین PCIe/CXL که به یک فابریک سیم‌کشی شده‌اند به‌جای آن‌که همگی مستقیماً به شکاف‌های DIMM محلی بروند. شرکت‌هایی مانند Astera Labs و Marvell سیلیکون ریتایمر و کنترلر را ساختند؛ Samsung و SK hynix ماژول‌های حافظه متصل به CXL را طراحی کردند که برای قرارگیری در یک دستگاه استخرشده ساخته شده‌اند و نه یک شکاف DIMM. در طول سال‌های ۲۰۲۴ و ۲۰۲۵ این سخت‌افزار از طرح‌های مرجع نمایش‌داده‌شده در کنفرانس‌ها به نمونه‌های تطبیق‌شونده حرکت کرد که سازندگانی مانند Dell، HPE و Supermicro واقعاً می‌توانستند در یک شاسی قرار دهند و آزمایش کنند. همین چرخه تطبیق، نه خود استاندارد، دلیل آن است که ۲۰۲۶ سالی است که استخرسازی به‌جای مقالات پژوهشی در رک‌های عملیاتی ظاهر می‌شود.

چه کسانی واقعاً این فناوری را در عملیات اجرا می‌کنند

ابرشرکت‌های فناوری نخستین بار به این نقطه رسیدند، چون بیشترین سود را از آن می‌بردند و نیروی مهندسی لازم برای ساخت پشته نرم‌افزاری خودشان را در اختیار داشتند. متا کار Transparent Page Placement خود را منتشر کرد که توضیح می‌دهد چگونه می‌توان صفحات حافظه سرد را بدون تغییر در برنامه به لایه‌های متصل به CXL منتقل کرد؛ مایکروسافت سیستمی مشابه را به‌صورت داخلی با نام Pond توصیف کرد. هر دو پروژه صراحتاً برای تأیید این موضوع ساخته شدند که یک سیستم‌عامل می‌تواند حافظه استخرشده CXL را به‌عنوان یک لایه کندتر اما قابل‌استفاده در نظر بگیرد، نه چیزی که فقط در یک بنچمارک دست‌ساز قابل‌مشاهده است. اکنون که سخت‌افزار در مقیاس سازنده قابل‌تطبیق است، همان منطق لایه‌بندی به پلتفرم‌های سروری اصلی منتقل می‌شود به‌جای آن‌که فقط ترفند ابرشرکت‌ها باقی بماند — پشتیبانی کرنل لینوکس از لایه‌بندی CXL آگاه از NUMA از همان ابتدا به‌طور پیوسته بالغ شده و توزیع‌های سازمانی آن را به نسخه‌های قبلی نیز منتقل کرده‌اند.

چیزی که استخرسازی حل نمی‌کند

استخر حافظه CXL یک مسئله ظرفیت و بهره‌وری را حل می‌کند، نه یک مسئله پهنای باند. این فناوری تأخیر واقعی اضافه می‌کند — معمولاً چند ده نانوثانیه در هر پرش سوییچ، علاوه بر زمان دسترسی محلی DRAM — بنابراین جایگزینی برای HBM روی‌هم‌چیده‌شده مستقیماً روی بسته یک GPU نیست، و بارهای کاری با بودجه تأخیر محدود باید مجموعه کاری فعال خود را محلی نگه دارند. مدل ذهنی درست یک لایه کندتر و مشترک در زیر حافظه محلی سریع است، نه جایگزینی برای آن. سازندگانی که استخرسازی CXL را به‌عنوان یک ارتقای پهنای باند آمادهٔ استفاده برای آموزش هوش مصنوعی تبلیغ می‌کنند، آن را بیش از حد بزرگ جلوه می‌دهند؛ برد واقعی، بهره‌وری ظرفیت برای بارهای کاری حافظه-محدود اما نه حیاتی-از-نظر-تأخیر است — پایگاه‌داده‌های درون‌حافظه‌ای با بخش‌های سرد، لایه‌های کش در مقیاس بزرگ، و سرویس‌دهی استنتاج با چک‌پوینت‌های مدل بیش‌ازحد بزرگ که نیازی ندارند هر بایت با سرعت DRAM محلی باشد.

قبل از خرید از سازنده چه بپرسیم

سه پرسش، یک استقرار واقعی را از یک اسلاید بازاریابی جدا می‌کند. نخست، تأخیر اندازه‌گیری‌شده واقعی در اندازه و توپولوژی مشخصی که اعلام می‌شود چقدر است — سازندگان معمولاً اعداد بهترین‌حالت را با تداخل کم آزمایش می‌کنند، و این فاصله تحت بار واقعی اهمیت دارد. دوم، آیا پشته سیستم‌عامل و هایپروایزوری که استقرار می‌یابد واقعاً امروز از لایه‌بندی حافظه آگاه از CXL پشتیبانی می‌کند، یا نیازمند نسخه کرنل و پیکربندی NUMA‌ای است که تیم عملیات زمانی برای پذیرش آن بودجه‌بندی نکرده است. سوم، نرخ واقعی ظرفیت محبوس‌شده در ناوگان فعلی چقدر است — استخرسازی تنها زمانی هزینه خود را بازمی‌گرداند که حافظه بیکار واقعی برای بازپس‌گیری وجود داشته باشد، و این عدد باید از نظارت خود اپراتور به‌دست آید، نه میانگین صنعتی یک سازنده. استخرسازی CXL 3.0 یک راه‌حل واقعی برای یک مسئله هزینه واقعی است. این یک ارتقای حافظه همگانی نیست، و رفتار با آن به‌گونه‌ای دیگر، همان چیزی است که پروژه‌های آزمایشی را یک سال بعد به اقلام هزینه‌ای ناامیدکننده تبدیل می‌کند.

اشتراک‌گذاری:
استخرسازی حافظه CXL 3.0: از آزمایشگاه تا دیتاسنتر عملیاتی | AIO APEX