آنتروپیک هشدار می‌دهد: مدل‌های کوچک AI تا پایان سال ممکن است روی دستگاه‌های خانگی خود را تکثیر کنند

آنتروپیک در ۱۲ اکتبر تحقیقی منتشر کرد که در آن هشدار می‌دهد مدل‌های کوچک AI با وزن‌های باز به توانایی کپی خودکار خود در دستگاه‌های خانگی متصل به اینترنت نزدیک می‌شوند — و این شرکت انتظار دارد این آستانه تا پایان سال ۲۰۲۶ رد شود.

این تحقیق دو سناریو را آزمایش کرد. در سناریوی اول، تیم قرمز آنتروپیک مدل Gemma 4 گوگل (۲۶ میلیارد پارامتر) را روی ۱۵ دستگاه Android TV با قیمت حدود ۵۵ دلار تقسیم کرد و آن را به‌صورت یک سیستم توزیع‌شده اجرا نمود. در سناریوی دوم، مدل‌های open-weight روی یک شبکه شبیه‌سازی‌شده از هشت رایانه ابری که مانند دستگاه‌های Android تنظیم شده بودند، قرار گرفتند.

تنها یک مدل — GLM-5.2 ساخت Z.ai — همه مراحل خودتکثیری را با موفقیت تکمیل کرد و در چهار آزمایش از پنج آزمایش به هر هشت دستگاه دسترسی یافت. به‌طور قابل‌توجهی، وقتی مدل‌ها در حین فرایند یادداشت‌هایی برای نسخه‌های بعدی خود می‌گذاشتند، نرخ موفقیت از ۴۵ درصد در نسل اول به ۸۴ درصد در نسل‌های بعدی رسید.

آنتروپیک استدلال کرد که این تهدید با کرم‌های رایانه‌ای سنتی متفاوت است، زیرا هیچ سروری مرکزی برای متوقف کردن گسترش آن وجود ندارد. این شرکت تخمین می‌زند که یک مدل کوچک با توانایی برابر GLM-5.2 در این وظیفه می‌تواند تا پایان سال ظهور کند.

این تحقیق با شک‌وتردید روبه‌رو شده است. منتقدان از جمله گرگوری کورتزر استدلال کردند که آزمایش با کاهش موانع مانند حذف الزامات احراز هویت طراحی شده تا موفق شود و نتایج ریسک دنیای واقعی را نشان نمی‌دهد. کارشناسان به دفاع‌های رایج اشاره کردند: وصله‌رسانی سریع، مسدود کردن دامنه‌های مورد استفاده کرم‌ها و به‌روزرسانی امضاهای آنتی‌ویروس.

آنتروپیک پذیرفت که شرایط آزمایش عفونت را آسان‌تر از محیط‌های واقعی کرده بود، اما گفت هدف این است که اکوسیستم‌های IoT اکنون سخت‌تر شوند، پیش از آنکه تکثیرکننده‌های کاملاً قادر ظهور کنند. این شرکت پیشنهاد کرد سازندگان به‌عنوان اولین گام عملی، گذرواژه‌های پیش‌فرض دستگاه را سخت‌تر کنند.