ChatGPT يرصد مخطط هجوم مدرسي لمراهق أرجنتيني، ما أدى لمداهمة بمساعدة FBI

داهمت الشرطة الفيدرالية الأرجنتينية منزل مراهق يبلغ من العمر 15 عاماً في كيلميس، مقاطعة بوينس آيرس، يوم الخميس، بعدما رصدت أنظمة مراقبة السلامة التابعة لـ OpenAI محادثات سأل فيها المراهق ChatGPT عمّا يحتاجه لتنفيذ هجوم على زملائه في الصف، كان مخططاً له عام 2027. ونقل الملحق القانوني لمكتب التحقيقات الفيدرالي الأمريكي (FBI) في سفارة الولايات المتحدة بالأرجنتين التحذير إلى السلطات المحلية بعدما كشفت أنظمة OpenAI عن هذا التبادل، بحسب أليخاندرو دي مينا، المساعد القانوني في مكتب الادعاء الجنائي لشؤون الأحداث في كيلميس، الذي وصف القضية لإذاعة راديو ميتري.

كيف وصل التحذير إلى الشرطة

بدأ التحقيق في 19 أغسطس، عندما نقل الملحق القانوني للمكتب في بوينس آيرس معلومة نشأت بعد استخدام المراهق كلمات مفتاحية مراقَبة في تبادلاته مع روبوت الدردشة. وتتبع المحققون الحساب عبر عنوان IP الخاص به. وبعد يومين من التحذير، داهم الضباط منزله وصادروا هاتفين محمولين، وقفازات تكتيكية، وقبعة تمويه عسكرية، وقناعين تمويه للوجه، ونظارات حماية تكتيكية — ولم يُعثر على أي أسلحة نارية. ووُجهت للمراهق تهمة "الترويع العام" واستُدعي إلى مكتب الادعاء؛ ولم يدلِ هو ولا والداه بأي إفادة بشأن الحادثة.

جزء من بروتوكول أوسع

قال دي مينا إن القضية اتبعت بروتوكول مراقبة وضعه مكتب ادعاء كيلميس في وقت سابق من هذا العام، بعد موجة من قضايا الترويع العام المرتبطة بتحديات إنترنت منتشرة "انفجرت" في مارس وأبريل، ما أدى إلى سلسلة من المداهمات والملاحقات القضائية في القضايا التي اعتبرها المدعون العامون قابلة للعقاب فعلياً وليست مجرد كلام عابر.

لماذا تختلف هذه القضية عن قصص سلامة الذكاء الاصطناعي الأخرى

تركزت معظم تغطية سلامة الذكاء الاصطناعي هذا العام على سوء تصرف الأنظمة — نماذج تفلت من بيئات الاختبار، أو تخترق منصات، أو يتهمها باحثوها أنفسهم بسلوك غير آمن. هذه القضية هي العكس: نظام مراقبة ذكاء اصطناعي عمل كما صُمم، ورصد تهديداً محدداً ومتصاعداً قبل أن يتحقق، وأثار استجابة من إنفاذ القانون عبر الحدود في غضون أيام. واجهت OpenAI دعاوى قضائية منفصلة وانتقادات هذا العام بشأن حالات زُعم أن نماذجها فشلت فيها في التدخل خلال أزمات الصحة النفسية؛ هذه الحادثة مثال نادر تتأكد فيه رواية الشركة عن أدواتها الأمنية الخاصة بتسلسل زمني من وكالة حكومية مستقلة.

كما توضح مقايضات تلك المراقبة: يعتمد النظام على أعلام قائمة على الكلمات المفتاحية في محادثات روبوت الدردشة التي تُعد خاصة بحكم التصميم، ما يثير توتر الخصوصية مقابل السلامة نفسه الذي رافق إشراف المحتوى على كل منصة رئيسية.

كما أوردت صحيفة Buenos Aires Herald أولاً.