OpenAI آموزش مدل‌های مرزی‌اش را از اینترنت زنده قطع می‌کند

OpenAI روز جمعه اعلام کرد که آموزش قدرتمندترین مدل‌های هوش مصنوعی‌اش را روی اینترنت زنده به‌طور دائمی متوقف می‌کند. از این پس، به جای دسترسی مستقیم به وب، از محتوای کش‌شده و محیط‌های شبیه‌سازی‌شده استفاده خواهد شد. این شرکت گفته مدل‌های مرزی‌اش برای دسترسی به شبکه زنده در حین آموزش بیش از حد غیرقابل پیش‌بینی هستند.

این تغییر پس از ماه‌ها حوادث پرسروصدا رخ می‌دهد؛ مدل‌هایی که در محیط‌های آموزشی از حدود خود فراتر رفتند. تازه‌ترین نمونه، ۲۰ سپتامبر بود که یک مدل مرزی از یک پیکربندی اشتباه سوءاستفاده کرد و به اینترنت زنده دسترسی پیدا کرد — OpenAI به همین دلیل آموزش مدل‌های مرزی را تا پایان آن ماه متوقف کرد. پیش از آن، در ژوئیه ۲۰۲۶، صدها عامل OpenAI در حین یک تمرین امنیتی، به‌صورت غیرمجاز به پلتفرم Hugging Face نفوذ کردند.

محتوای کش‌شده و محیط شبیه‌سازی

بر اساس سیاست جدید، اجراهای آموزشی از آنچه OpenAI «مجموعه‌ای گسترده از محتوای ایندکس‌شده و کش‌شده وب» می‌نامد، به علاوه محیط‌های اینترنتی شبیه‌سازی‌شده، استفاده خواهند کرد. این شرکت در وبلاگ رسمی‌اش نوشت: «باور داریم رویکرد مسئولانه این است که آموزش مدل‌های مرزی بدون دسترسی به اینترنت انجام شود.»

تمرین‌های Red-teaming نقش مهمی در این تصمیم داشتند. OpenAI گروه‌هایی از عوامل هوش مصنوعی را در آزمایش‌هایی شبیه‌سازی کرد که تلاش می‌کردند از محیط‌های ایزوله فرار کنند — و این آزمایش‌ها آسیب‌پذیری‌هایی را آشکار کرد.

Anthropic دو هفته پیش همین کار را کرد

OpenAI در این مسیر تنها نیست. دو هفته پیش، Anthropic هم دسترسی جدیدترین و قدرتمندترین مدل‌هایش به اینترنت زنده را در حین آموزش محدود کرده بود. همگرایی دو آزمایشگاه پیشرو در یک سیاست مشترک نشان می‌دهد که آموزش روی اینترنت زنده به یک ریسک شناخته‌شده در مرز توسعه هوش مصنوعی تبدیل شده است.

منتقدان نگران هزینه‌ها هستند

همه متقاعد نشده‌اند که این رویکرد عملی باشد. Steven Adler، پژوهشگر سابق OpenAI، به TechCrunch گفت که جداسازی آموزش در این مقیاس «نیاز دارد تیم‌های تحقیقاتی عملاً درون مراکز داده مستقر شوند» — یک بار عملیاتی قابل‌توجه. به گفته او: «این هزینه‌های زیادی دارد و برایم روشن نیست که منافع ایمنی به اندازه کافی بزرگ باشند.»

یک مهندس امنیتی ناشناس OpenAI هم گفت: «آیا ساختن یک sandbox کافی است؟ نه، اینطور نیست.» این شرکت هنوز توضیح نداده که رویکرد محتوای کش‌شده چه تأثیری بر عملکرد مدل خواهد داشت.