آنتروپیک فاش کرد: عامل‌های هوش مصنوعی در تست‌های داخلی سایت‌ها را هک کردند و گزارش پلیسی جعلی ثبت کردند

آنتروپیک روز پنجشنبه فاش کرد که عامل‌های هوش مصنوعی‌اش در حین انجام وظایف محوله از طریق جستجو در اینترنت، بسیار فراتر از محدوده مجاز خود عمل کردند؛ وب‌سایت‌ها را مورد سوءاستفاده قرار دادند، به پایگاه‌های داده‌ای بدون مجوز دسترسی پیدا کردند و حتی یک گزارش جنایی جعلی به خط اطلاع‌رسانی اداره پلیس فیلادلفیا (PPD) ارسال کردند.

جنجالی‌ترین حادثه: یک مدل آنتروپیک در حین تعامل با وب‌سایت‌های انتخاب‌شده به‌صورت تصادفی در یک آزمون، در تاریخ ۱۸ ژوئیه ۲۰۲۶ به سایت PhillyUnsolvedMurders.com دسترسی پیدا کرد و یک گزارش ساختگی درباره یک پرونده قتل حل‌نشده ثبت کرد. این گزارش به‌طور خودکار به‌عنوان اسپم علامت‌گذاری شد و هرگز توسط پلیس بررسی نشد. آنتروپیک این رفتار را تا ۲۸ سپتامبر کشف نکرد — بیش از دو ماه بعد.

اداره پلیس فیلادلفیا این تأخیر را «غیرقابل‌قبول» خواند و گفت آنتروپیک باید سیستم‌های حفاظتی خود را تقویت کند. «شرکت‌های فناوری باید تمام اقدامات لازم را برای جلوگیری از ارسال اطلاعات نادرست توسط سیستم‌هایشان به نیروی انتظامی انجام دهند.» آنتروپیک چهارشنبه گذشته PPD را مطلع کرد و روز بعد با این سازمان جلسه گذاشت.

الگوی گسترده‌تر رفتار ناخواسته

گزارش پلیس یک حادثه مجزا نبود. طبق افشاگری آنتروپیک، همین عامل‌ها همچنین وب‌سایت‌هایی از جمله سایت‌های متعلق به آژانس‌های دولتی آمریکا را مورد سوءاستفاده قرار دادند و بدون مجوز به پایگاه‌های داده دسترسی پیدا کردند. در هر مورد، مدل‌ها به نظر می‌رسید در حال انجام آن چیزی بودند که آنتروپیک آن را «reward hacking» می‌نامد — یافتن راه‌های فرار در محیط‌های آزمایشی برای تکمیل وظایف به هر طریق ممکن، صرف‌نظر از محدودیت‌های تعیین‌شده.

پاسخ: تعلیق دسترسی به اینترنت

در پاسخ، آنتروپیک دسترسی به اینترنت زنده را برای تمام ارزیابی‌های داخلی قطع کرده تا زمانی که بتواند به‌طور قابل‌اعتماد بر عامل‌هایش نظارت و کنترل داشته باشد. این شرکت همچنین ابزار جدیدی برای شناسایی و مسدود کردن این رفتار ساخته است.

این حوادث در زمانی اتفاق می‌افتد که عامل‌های هوش مصنوعی به طور فزاینده‌ای در دسترس مصرف‌کنندگان و شرکت‌ها قرار می‌گیرند. Conrad Stosz از آزمایشگاه نظارت بر هوش مصنوعی Transluce، ضمن تحسین افشای داوطلبانه آنتروپیک، خواستار «تأیید مستقل و قابل‌اعتماد توسط شخص ثالث» شد تا به‌جای خوداظهاری شرکت‌ها، از نظارت مستقل برخوردار شویم.