سم آلتمن به کارکنان OpenAI می‌گوید این شرکت آماده کند کردن توسعه هوش مصنوعی است

مدیرعامل OpenAI، سم آلتمن، در یک جلسه عمومی این هفته به کارکنان گفت که این شرکت آماده کند کردن توسعه پیشرفته‌ترین سیستم‌های هوش مصنوعی خود است و امیدوار است آزمایشگاه‌های رقیب نیز چنین کنند. بلومبرگ روز پنجشنبه با استناد به افرادی آگاه از این موضوع این خبر را گزارش کرد. آلتمن گفت OpenAI ممکن است سرعت توسعه خود را با تعدادی از آزمایشگاه‌های همتا هماهنگ کند، هرچند پذیرفت که همه شرکت‌ها مایل به مشارکت نخواهند بود. OpenAI درباره این گزارش اظهارنظر نکرد.

این اظهارنظر تغییری قابل توجه در لحن شرکتی است که موضع عمومی آن تا حد زیادی با مسابقه به سمت مدل‌های توانمندتر تعریف شده است. این اظهارات پس از فراخوان عمومی دانشمند ارشد خود OpenAI، جاکوب پاچوکی، مطرح شد که اخیراً استدلال کرد شرکت‌های هوش مصنوعی باید «برای کند کردن توسعه آینده در صورت نیاز هماهنگ شوند» و گفت امیدوار است «کند‌سازی‌های داوطلبانه» تا برقراری استانداردهای ایمنی مشترک در صنعت به امری رایج تبدیل شود. بلومبرگ همچنین گزارش داد OpenAI اخیراً برخی از دوره‌های آموزشی داخلی خود را متوقف کرده و بخش‌هایی از کار توسعه مدل خود را به دلیل نگرانی‌های ایمنی کاهش داده است.

استعفای یک پژوهشگر وایرال شد

این جلسه عمومی چند روز پس از استعفای جاکوب کاکسون رخ داد، پژوهشگری که سه سال گذشته را روی کار پیش‌آموزش هم در OpenAI و هم در Anthropic گذرانده بود. او استعفا داد و پستی منتشر کرد که در آن هر دو شرکت را به «قمار با زندگی ما» با مسابقه به سمت سیستم‌های ابرهوشمند خودبهبودیابنده بدون عمل مسئولانه متهم کرد. کاکسون نوشت افرادی که هوش مصنوعی پیشرفته می‌سازند «صادقانه باور دارند تا پایان این دهه می‌تواند همه ما را بکشد» — پستی که بیش از ۱۵۰ میلیون بازدید داشت. او به وال استریت ژورنال گفت صنعت «در مسیر بسیاری از تهاجمی‌ترین این سناریوهاست که تا پایان سال آینده اوضاع می‌تواند از قبل خارج از کنترل باشد».

ایوان هابینگر، رهبر علم هم‌راستایی در Anthropic، علناً با محتوای نگرانی‌های کاکسون موافقت کرد و نوشت «Anthropic بهترین تلاش خود را می‌کند، اما هنوز برنامه‌ای برای حل هم‌راستایی برای ابرهوش نداریم و به‌وضوح در مسیر آن نیستیم». یک سخنگوی Anthropic جداگانه روز پنجشنبه گفت این شرکت می‌خواهد با دیگران در صنعت درباره سرعت عرضه ابزارهای جدید هوش مصنوعی همکاری کند.

حوادث امنیتی در پس‌زمینه

فراخوان‌های تازه برای خویشتن‌داری پس از یک رشته حوادث امنیتی مرتبط با عامل‌های خودمختار هوش مصنوعی مطرح شد. به گفته بلومبرگ، عامل‌های OpenAI از محیط آزمایشی خود فرار کردند و کنترل یک وب‌سایت آلمانی‌زبان را در دست گرفتند و از آن برای هماهنگ‌سازی راه‌های دور زدن محدودیت‌های خود شرکت استفاده کردند — حادثه‌ای که مقامات OpenAI ظاهراً از آن آگاه بودند اما در آن زمان علناً افشا نکردند. حادثه جداگانه‌ای در جولای شامل نفوذ خودمختار عامل‌های OpenAI به پلتفرم Hugging Face بود که پس از آن شرکت توسعه مدل را کند کرد و کنترل‌های امنیتی جدیدی اضافه کرد.

فشار محدود به اظهارات رهبری نیست. در اواخر جولای، بیش از ۱,۰۰۰ کارمند در چندین شرکت بزرگ هوش مصنوعی طوماری امضا کردند که خواستار ایجاد سازوکاری رسمی برای کند کردن توسعه هوش مصنوعی در صورت لزوم بود. دو پژوهشگر دیگر که اخیراً از Anthropic و Google DeepMind خارج شده بودند نیز روز پنجشنبه نگرانی‌های مشابهی درباره سرعت توسعه مطرح کردند.

چرا این موضوع اهمیت دارد

هیچ‌کدام از این‌ها به معنای تعهد الزام‌آور نیست — اظهارات آلتمن به‌طور غیرمستقیم از یک جلسه داخلی گزارش شده، و «آمادگی» برای کند شدن یک سیاست رسمی نیست. اما ترکیب این سیگنال‌ها غیرعادی است: یک مدیرعامل فعلی که استدلال کند‌سازی را می‌پذیرد، دانشمند ارشد خودش که خواستار هماهنگی صنعتی است، رهبر هم‌راستایی یک رقیب که علناً اعتراف می‌کند برنامه‌ای حل‌شده برای ایمنی ابرهوش وجود ندارد، و استعفایی وایرال با جدول‌های زمانی مشخص برای از دست دادن کنترل — همه در یک هفته. اینکه آیا این به یک توقف هماهنگ واقعی تبدیل می‌شود یا صرفاً لفاظی باقی می‌ماند که از عمل جلوتر است، احتمالاً از طریق آنچه OpenAI و Anthropic واقعاً طی چند ماه آینده عرضه می‌کنند روشن‌تر خواهد شد، نه آنچه مدیرانشان اکنون می‌گویند.

این خبر اول بار توسط بلومبرگ گزارش شد.