مدل تریلیون‌پارامتری Large 4 از Mistral؛ آموزش‌دیده با فقط ۴۰۰۰ GPU

TechCrunch
اشتراک‌گذاری:
مدل تریلیون‌پارامتری Large 4 از Mistral؛ آموزش‌دیده با فقط ۴۰۰۰ GPU

شرکت Mistral روز سه‌شنبه مدل Mistral Large 4 رو معرفی کرد؛ یه مدل چندوجهی با ۱ تریلیون پارامتر که این آزمایشگاه AI پاریسی می‌گه با حدود ۴,۰۰۰ GPU از Nvidia آموزش دیده — یه کسری کوچیک از بودجه‌های محاسباتی که آزمایشگاه‌های رقیب برای آموزش در مقیاس مدل‌های پیشرو صرف می‌کنن. این مدل که داخل شرکت باهاش «Le Chonk» صداش می‌زنن، الان از طریق یه endpoint عمومی با محافظ در دسترسه، و انتشار open-weight اون هم حدود سه هفته دیگه، بعد از تست‌های امنیتی، برنامه‌ریزی شده.

این معرفی دقیقاً وسط یه شکاف سه‌طرفه‌ی رو به گسترش در صنعت AI اتفاق می‌افته: سیستم‌های بسته و اختصاصی از آزمایشگاه‌های آمریکایی، مدل‌های open-weight از توسعه‌دهندگان چینی مثل DeepSeek و Qwen از Alibaba، و یه دسته‌ی کوچک‌شونده از جایگزین‌های open-weight غربی. شرکت Mistral از تأسیسش در ۲۰۲۳ دقیقاً جایگاهش رو تو اون مسیر سوم قرار داده، و Large 4 مستقیم‌ترین تلاششه تا ثابت کنه مدل‌های open-weight که در اروپا آموزش دیدن می‌تونن با هر دو طرف رقابت کنن، نه اینکه دنبال‌شون بمونن.

معاون علمی Mistral، Pierre Stock، گفت که این آموزش از نظر محاسباتی «دو تا سه برابر کمتر» از چیزی که شرکت فکر می‌کنه رقبای چینیش نیاز داشتن استفاده کرده، و «به طور قابل توجهی کمتر» از رقبای closed-source. شرکت Mistral مدل Large 4 رو به طور خاص برای کارهای امنیت سایبری، مالی و طراحی تراشه تنظیم کرده — حوزه‌های سازمانی که شرکت داره توش دنبال مشتریایی می‌گرده که پول بدن، نه اینکه دنبال benchmark‌های عمومی چت‌بات باشه. شرکت می‌گه بعد از انتشار، با «شرکا و دولت‌های مورد اعتماد» برای استفاده مسئولانه از وزن‌های open کار خواهد کرد — حرفی که هدفش کم کردن نگرانی‌هاییه که یه مدل تریلیون‌پارامتری بدون محدودیت ممکنه برای حملات سایبری تهاجمی یا طراحی سلاح استفاده بشه.

نتایج benchmark های مستقل هنوز عمومی نشدن، پس ادعای Mistral مبنی بر «بهترین در میان مدل‌های open-weight» خارج از تست‌های داخلی خودِ شرکت هنوز تأیید نشده. اما اگه اعداد کارایی زیر ذره‌بین هم دوام بیارن، Large 4 این استدلال رو تقویت می‌کنه که مدل‌های در مقیاس پیشرو دیگه به اون خوشه‌های عظیم GPU که OpenAI، Anthropic و Google شهرت‌شون رو روشون ساختن نیازی ندارن — ادعایی با پیامدهای واقعی برای اینکه بقیه صنعت چقدر ظرفیت محاسباتی فکر می‌کنن باید بخرن.

همون‌طور که TechCrunch اول گزارش داد، شرکت Mistral قیمت endpoint با محافظ رو قبل از انتشار open-weight اعلام نکرد.

در ابتدا توسط TechCrunch گزارش شده است. برای جزئیات بیشتر مقالهٔ اصلی را بخوانید.

مشاهدهٔ منبع اصلی
اشتراک‌گذاری: