أنثروبيك تحجب نموذج الذكاء الاصطناعي القوي 'Mythos' بسبب مخاطر الأمن السيبراني

اتخذت شركة أنثروبيك، وهي شركة رائدة في مجال أبحاث وسلامة الذكاء الاصطناعي، قرارًا مهمًا بالحد من إصدار أحدث نماذجها، 'Mythos'، بسبب مخاوف بشأن قدراته القوية في مجال الأمن السيبراني. أعلنت الشركة أنها لن تمضي قدمًا في طرح عام واسع النطاق بعد أن اكتشف فريق داخلي متخصص أن النموذج يمكن استخدامه لتنظيم هجمات سيبرانية معقدة.

في حين أن 'Mythos' هو نموذج ذكاء اصطناعي للأغراض العامة، إلا أنه يمتلك مهارات متقدمة بشكل استثنائي في الترميز والاستدلال. وقد سمحت له هذه القدرات بالكشف عن نقاط ضعف كامنة منذ فترة طويلة في برامج الإنترنت الحيوية، بما في ذلك خطأ برمجي عمره 27 عامًا. ومع ذلك، أثبتت نقاط القوة هذه أنها سيف ذو حدين. فقد أظهر باحثو السلامة في أنثروبيك أنه يمكن أيضًا توجيه 'Mythos' لربط سلسلة من الاستغلالات معًا، مما يخلق فعليًا هجمات جديدة ضد جميع أنظمة التشغيل ومتصفحات الويب الرئيسية.

في مواجهة هذا الاحتمال لسوء الاستخدام، اختارت أنثروبيك نهجًا حذرًا. فمن خلال مبادرة تسمى 'مشروع جلاسوينج'، توفر الشركة وصولاً مبكرًا إلى 'Mythos' لمجموعة مختارة من الشركاء الموثوق بهم. تضم هذه المجموعة عمالقة التكنولوجيا مثل آبل وأمازون ومايكروسوفت وجوجل، بالإضافة إلى العديد من شركات الأمن السيبراني المتخصصة. والهدف من ذلك هو أن تستخدم هذه المنظمات 'Mythos' للبحث بشكل استباقي عن نقاط الضعف في أنظمتها الخاصة، مع مشاركة جميع النتائج لتطوير حواجز أمان أقوى لنماذج الذكاء الاصطناعي المستقبلية.

يسلط هذا التحرك الضوء على المعضلة المتنامية في صناعة الذكاء الاصطناعي: كيفية الموازنة بين التقدم السريع للأدوات القوية والحاجة الماسة إلى النشر المسؤول والسلامة العامة. يمثل قرار أنثروبيك بإبقاء 'Mythos' طي الكتمان في الوقت الحالي لحظة محورية في الحوار المستمر حول تنظيم الذكاء الاصطناعي والتطوير الأخلاقي.