آنتروپیک هشدار داد: هوش مصنوعی ممکن است به آستانه‌ی بهبود خودکار نزدیک شده باشد

آنتروپیک در یک سند تنظیمی به‌روزرسانی‌شده فاش کرده که ممکن است به یکی از مهم‌ترین آستانه‌های توسعه‌ی هوش مصنوعی نزدیک شده باشد: بهبود خودکار بازگشتی (RSI)، یعنی نقطه‌ای که در آن یک سیستم هوش مصنوعی می‌تواند آموزش، پژوهش و توانایی‌های خود را بدون راهنمایی مستقیم انسان به‌طور معناداری تسریع کند. این شرکت این آستانه را مهم‌ترین نقطه‌عطف ایمنی‌ای که تا به حال تعریف کرده توصیف می‌کند.

این هشدار در بازنگری اعلامیه‌ی IPO آنتروپیک (S-1A) آمده است که شرکت در آستانه‌ی عرضه‌ی عمومی سهام در نوامبر ۲۰۲۶ به‌روزرسانی کرده است. آنتروپیک آستانه‌ی RSI را نقطه‌ای تعریف می‌کند که در آن یک مدل هوش مصنوعی بتواند به اندازه‌ی کل یک تیم پژوهشی کار کند، یا حداقل سرعت پیشرفت هوش مصنوعی را دو برابر کند. هیچ‌کدام از مدل‌های فعلی آنتروپیک به این مرز نرسیده‌اند، اما شرکت می‌گوید فاصله تا آن کاهش یافته است.

بر اساس سیاست مقیاس‌گذاری مسئولانه (RSP) آنتروپیک، نزدیک شدن به توانایی RSI، بررسی‌های ایمنی اجباری را فعال می‌کند و می‌تواند نیازمند توقف توسعه تا ایجاد پادمان‌های کافی باشد. شرکت اعلام کرده که قصد دارد خود RSP را به‌روزرسانی کند تا کنترل انسان بر توسعه‌ی مدل‌های مرزی حفظ شود.

این افشاگری همچنین یک پیشنهاد حاکمیتی را مطرح می‌کند: آنتروپیک می‌گوید برنامه دارد دولت‌ها، پژوهشگران مستقل و آزمایشگاه‌های رقیب هوش مصنوعی را گرد هم آورد تا بررسی شود آیا مکانیزم‌های بین‌المللی هماهنگ می‌توانند در صورت نیاز، توسعه را کند یا متوقف کنند.

مفهوم RSI سال‌هاست در محافل ایمنی هوش مصنوعی مطرح است، اما این اولین باری است که یک آزمایشگاه پیشرو در یک سند قانونی الزام‌آور به‌طور رسمی اعلام کرده که این توانایی ممکن است در آینده‌ی نزدیک قابل دسترس باشد.