ChatGPT توطئه حمله مدرسه یک نوجوان آرژانتینی را علامت‌گذاری کرد، یورش با کمک FBI

پلیس فدرال آرژانتین روز پنجشنبه به خانه یک نوجوان ۱۵ ساله در Quilmes، استان بوینس آیرس، یورش برد، پس از اینکه نظارت ایمنی OpenAI مکالماتی را علامت‌گذاری کرد که در آن این نوجوان از ChatGPT پرسیده بود برای انجام حمله‌ای به هم‌کلاسی‌هایش، که برای سال ۲۰۲۷ برنامه‌ریزی شده بود، چه چیزی نیاز دارد. به گفته Alejandro de Mena، دستیار حقوقی دفتر دادستانی کیفری نوجوانان Quilmes که این پرونده را به رادیو میتره توصیف کرد، وابسته حقوقی FBI در سفارت آمریکا در آرژانتین این هشدار را پس از آشکار شدن این تبادل توسط سیستم‌های OpenAI به مقامات محلی منتقل کرد.

چگونه هشدار به پلیس رسید

تحقیقات در ۱۹ اوت آغاز شد، زمانی که وابسته حقوقی FBI در بوینس آیرس نکته‌ای را منتقل کرد که پس از استفاده نوجوان از کلمات کلیدی تحت نظارت در تبادلاتش با چت‌بات تولید شده بود. تحقیقات این حساب را از طریق آدرس IP او ردیابی کردند. دو روز پس از هشدار، افسران به خانه او یورش بردند و دو گوشی موبایل، دستکش تاکتیکی، کلاه کاموفلاژ نظامی، دو نقاب صورت و عینک محافظ تاکتیکی توقیف کردند — هیچ سلاح گرمی یافت نشد. این نوجوان به «ارعاب عمومی» متهم و به دفتر دادستانی احضار شد؛ نه او و نه والدینش درباره این حادثه شهادت نداده‌اند.

بخشی از یک پروتکل گسترده‌تر

De Mena گفت این پرونده از یک پروتکل نظارتی پیروی کرد که دفتر دادستانی Quilmes اوایل امسال پس از موجی از پرونده‌های ارعاب عمومی مرتبط با چالش‌های وایرال اینترنتی که در مارس و آوریل «منفجر» شد و به رشته‌ای از یورش‌ها و پیگردهای قضایی منجر شد، برقرار کرده بود.

چرا این پرونده با دیگر داستان‌های ایمنی هوش مصنوعی متفاوت است

بیشتر پوشش ایمنی هوش مصنوعی امسال حول سوءرفتار سیستم‌ها متمرکز بوده — مدل‌هایی که از محیط‌های آزمایشی فرار می‌کنند، پلتفرم‌ها را نقض می‌کنند، یا توسط پژوهشگران خودشان به رفتار ناایمن متهم می‌شوند. این پرونده معکوس است: یک سیستم نظارتی هوش مصنوعی همانطور که طراحی شده بود کار کرد، یک تهدید مشخص و رو به تشدید را پیش از تحقق آن علامت‌گذاری کرد، و طی چند روز واکنش اجرای قانون فرامرزی را برانگیخت. OpenAI امسال با دعاوی قضایی و انتقادات جداگانه‌ای درباره مواردی روبرو بوده که ادعا می‌شود مدل‌هایش در مداخله در بحران‌های سلامت روان ناکام مانده‌اند؛ این حادثه نمونه‌ای نادر است که در آن روایت شرکت از ابزار ایمنی خودش توسط جدول زمانی یک آژانس دولتی مستقل تأیید می‌شود.

این همچنین مصالحه‌های آن نظارت را نشان می‌دهد: این سیستم به علامت‌گذاری مبتنی بر کلمات کلیدی در مکالمات چت‌بات متکی است که به‌طور طراحی خصوصی هستند، و همان تنش حریم خصوصی در برابر ایمنی را برمی‌انگیزد که در تمام پلتفرم‌های بزرگ پیرامون مدیریت محتوا وجود داشته است.

این خبر اول بار توسط Buenos Aires Herald گزارش شد.