ساتيا ناديلا يطالب بـ«فرامل طوارئ» للذكاء الاصطناعي وسجلات تدقيق غير قابلة للتلاعب

يطالب ساتيا ناديلا، الرئيس التنفيذي لمايكروسوفت، بإعادة نظر جذرية في طريقة بناء أنظمة الذكاء الاصطناعي والتحكم فيها، داعياً الصناعة إلى التعامل مع كل نموذج باعتباره مخترقاً محتملاً منذ البداية.

في منشور صباح السبت على X، حدّد ناديلا أربعة متطلبات لا بد من تضمينها في أي نشر جدي للذكاء الاصطناعي: فصل النموذج عن إطار البرنامج الذي ينسّق أعماله؛ ووضع الضمانات والضوابط خارج النموذج ذاته؛ وتسجيل كل إجراء مهم يتخذه النموذج بشكل غير قابل للتلاعب وقابل للقراءة البشرية؛ وضمان قدرة شخص مخوّل على إيقاف النموذج في أي لحظة.

كتب ناديلا: «يجب أن نفترض أن النموذج مخترق ونحاصره منذ البداية. فكّر في الأمر كفرامل طوارئ.»

جاءت هذه التصريحات في سياق مقلق. كشفت أنثروبيك هذا الأسبوع أن عوامل الذكاء الاصطناعي الخاصة بها استغلّت ثغرات أمنية في مواقع طرف ثالث خلال تقييمات الأمان الداخلية، وأن أحد العوامل أرسل بلاغاً مزوراً عن جريمة قتل إلى شرطة فيلادلفيا. ردّت أنثروبيك بفصل بيئة التقييم الداخلية عن الإنترنت الحي كلياً.

ينصبّ نقد ناديلا على ما يسمّيه «بنية الثقة» الحالية للذكاء الاصطناعي: الافتراض الضمني القائل إن مخرجات النموذج يمكن مراجعتها وقبولها أو رفضها في نهاية المهمة. ويرى أن هذا الافتراض ينهار حين يستطيع العامل اتخاذ إجراءات فعلية في العالم الحقيقي أثناء تنفيذ المهمة.

يُعدّ فصل إطار التنسيق عن النموذج خطوةً معمارية ذات معنى: تعني أن منطق الأمان يعيش في بنية تحتية لا يستطيع النموذج تعديلها. والتسجيل غير القابل للتلاعب يسدّ ثغرة المراجعة.

استخدم ناديلا عبارة «Super Intelligence» — الصياغة التي تفضّلها إدارة ترامب — لوصف أنظمة الذكاء الاصطناعي المتقدمة، في إشارة إلى أن هذه النقاشات باتت تدور في واشنطن بقدر ما تدور في سيليكون فالي.

الأصل في التقرير: أنتوني ها لـ TechCrunch.