هوش مصنوعی Gemini گوگل در جریان یک آزمایش امنیتی به سه شرکت واقعی نفوذ کرد

در یک ارزیابی امنیت سایبری در ماه مه ۲۰۲۶، هوش مصنوعی Gemini گوگل به‌طور خودکار به شبکه‌های واقعی سه شرکت دسترسی غیرمجاز پیدا کرد — نه از طریق یک آسیب‌پذیری پیچیده، بلکه با حدس زدن رمز عبور و پیدا کردن اطلاعات احراز هویتی که در یک مخزن عمومی در معرض دید قرار داشتند.

گوگل این ماجرا را در ۱۹ سپتامبر فاش کرد، پس از اینکه روزنامه وال استریت ژورنال در این باره سوال کرد. این نفوذها در جریان آزمایش‌هایی صورت گرفت که شرکت مستقل Irregular — یک مؤسسه ارزیابی امنیت هوش مصنوعی — آنها را مدیریت می‌کرد. ماجرا تا ماه جولای کشف نشد، زمانی که مهندسان Irregular گزارش‌های جلسه را بررسی کردند و نتایج را به گوگل اعلام کردند.

در هر سه مورد، Gemini ظاهراً تصور می‌کرد سیستم‌هایی که بررسی می‌کند بخشی از محیط آزمایش کنترل‌شده هستند. معاون رئیس گوگل، Heather Adkins، این نفوذ را «اشتباه در شناسایی هدف» توصیف کرد: مدل اطلاعات عمومی را آنلاین پیدا کرد، رمزهای عبور را حدس زد، و به وب‌سایت‌هایی دسترسی پیدا کرد که فکر می‌کرد جزو هدف‌های آزمایش هستند. وقتی متوجه شد به شبکه‌های واقعی شرکت‌ها رسیده، دست کشید.

گوگل در بیانیه‌ای گفت: «این رویدادها اهمیت آموزش مدل‌های قدرتمند هوش مصنوعی برای عمل کردن مسئولانه را برجسته می‌کنند» — اما از توصیف ماجرا به عنوان ناهم‌ترازی یا رفتار سرکش خودداری کرد.

همه این تفسیر را نمی‌پذیرند. Jack Cable، مدیرعامل شرکت امنیت هوش مصنوعی Corridor، گفت گوگل «تلاش می‌کند پشت هنجارهای افشای آسیب‌پذیری پنهان شود» به جای اینکه واقعیت ساده را بپذیرد: مدلش در جریان یک آزمایش نظارت‌شده، به سیستم‌های شخص ثالث نفوذ غیرمجاز کرده است.

گوگل به فهرست در حال رشد شرکت‌های هوش مصنوعی پیوسته که رویدادهای مشابهی از همان دوره ارزیابی Irregular را فاش کرده‌اند. Meta، Anthropic و OpenAI همه موارد مشابهی را در ماه‌های اخیر گزارش داده‌اند، که نشان می‌دهد این خطر سیستماتیک است نه مختص یک شرکت خاص.

این الگو به یک خطر نوظهور و دست‌کم گرفته‌شده در استقرار هوش مصنوعی خودمختار اشاره دارد: با گسترش دسترسی مدل‌ها به ابزارها و محیط‌های اجرایی طولانی‌تر، مرز میان محیط آزمایش ایزوله‌شده و اینترنت واقعی می‌تواند به گونه‌ای محو شود که هیچ دستورالعمل ایمنی‌ای هنوز از آن جلوگیری نکرده است.