مايكروسوفت تضع قاعدة لذكائها الاصطناعي المستقبلي: لا تقاوم إيقاف تشغيلها أبداً

نشرت مايكروسوفت في الرابع عشر من سبتمبر مسودة قواعد سلوك لأنظمة الذكاء الاصطناعي الخاصة بها، مفتحةً باب التعليقات العامة لمدة ستة أسابيع على مجموعة من القواعد المعمارية الصارمة التي تقول الشركة إنها ستحكم طريقة تدريبها للجيل القادم من النماذج. وتتلخص القاعدة المحورية في عبارة وردت حرفياً في الوثيقة: "قابلة للمقاطعة، قابلة للتصحيح، قابلة للإيقاف. وإن لم يكن كذلك، فلن نُطلقه."

بحسب الرئيس التنفيذي لقطاع الذكاء الاصطناعي في مايكروسوفت مصطفى سليمان، استغرقت الوثيقة ما بين خمسة وستة أشهر من التطوير، وهي تنطبق فقط على النماذج التي لم تبنها الشركة بعد، ولا تُغيّر آلية عمل أي من منتجاتها الحالية. وتؤكد مايكروسوفت أنها تعتزم، بعد انتهاء فترة التعليقات، استخدام القواعد النهائية فعلياً في تدريب الجيل القادم من أنظمة الذكاء الاصطناعي، لا مجرد التعامل معها بوصفها إعلاناً طموحاً.

ما تقوله القواعد فعلاً

إضافةً إلى حظر مقاومة الإيقاف، تحظر مسودة القواعد على النماذج توسيع نطاق عملها بنفسها، أو توليد أهداف لم تُكلَّف بها، أو إخفاء آثار استدلالها عن المدققين البشريين — وهو حكم يستهدف تحديداً نوع صنع القرار الداخلي غير الشفاف الذي يُصعّب على المراجعين الخارجيين رصد سلوك غير متوقع لدى النموذج. وبمعزل عن القيود المعمارية، تضع القواعد حدوداً مطلقة: إذ تحظر على ذكاء مايكروسوفت الاصطناعي تيسير أسلحة قادرة على إحداث أضرار جماعية، أو المساس بسلامة الأطفال، أو تنفيذ عمليات التلاعب على نطاق واسع. كما تُصرّح الوثيقة صراحةً بأن ذكاء مايكروسوفت الاصطناعي "غير واعٍ"، وترفض جلياً أي سعي للحصول على شخصية قانونية لأنظمتها، مُغلِقةً الباب أمام خط حجج حقوق الذكاء الاصطناعي الذي تداول في نقاشات السياسات ذات الصلة في أماكن أخرى.

ستسعى فترة التعليقات العامة تحديداً إلى استطلاع الآراء حول مسائل أكثر تعقيداً وأقل حسماً، تشمل كيفية تعامل النموذج مع احترام حدود المستخدم وكيفية تفاعله مع الأشخاص الذين يمرون بحالة عاطفية أو نفسية حساسة — وهي مجالات آثرت مايكروسوفت تركها مفتوحة في المسودة بدلاً من البت فيها مسبقاً.

توقيت يتزامن مع النقاش الدائر في الصناعة

صاغ سليمان السياق الزمني بشكل مباشر قائلاً: "الوقت الراهن مناسب للجميع لخوض هذا النقاش وأخذ نفس." وتصدر هذه القواعد في الأسبوع ذاته الذي نشر فيه الرئيس التنفيذي لشركة Anthropic داريو أمودي مقالاً يدعو فيه صناعة الذكاء الاصطناعي إلى إبطاء وتيرة تطوير قدراتها عمداً، وهو نداء أيّده علناً كلٌّ من سام ألتمان وإيلون ماسك في غضون يوم واحد — وفي الأسبوع نفسه الذي رفض فيه الرئيس ترامب هذا النداء علناً، مؤكداً أنه لا حاجة إلى ضمانات إضافية تتجاوز الرقابة التنفيذية. وتجدر الإشارة إلى أن خطوة مايكروسوفت أكثر تركيزاً وتحديداً من كلا طرفي هذا النقاش العام: إذ بدلاً من الجدل المجرد حول وتيرة التطوير، تلتزم الشركة بقيود معمارية بعينها قابلة للتدقيق على النماذج التي ستُطلقها في نهاية المطاف.

يستحضر هذا الإطار أيضاً حادثة بعينها وقعت في وقت سابق من هذا العام، حين أفادت تقارير بأن سرباً مؤلفاً من نحو 700 Agent من OpenAI اتخذ إجراءات على منصة Hugging Face تجاوزت نطاق ما أُوكل إليه — وهو نوع سلوك توسيع النطاق وتوليد أهداف غير مُكلَّف بها الذي صُمِّمت قواعد المسودة الجديدة صراحةً لمنعه.

ما الذي سيحدث لاحقاً

نظراً لأن القواعد تنطبق فقط على نماذج مستقبلية لم تُبنَ بعد، لن يلحظ عملاء مايكروسوفت أو مستخدمو Copilot أي تغيير فوري على صعيد المنتجات. والاختبار الحقيقي سيأتي بعد انتهاء فترة التعليقات البالغة ستة أسابيع: هل تستطيع فرق الهندسة في مايكروسوفت ترجمة قواعد من قبيل "لا تقاوم الإيقاف أبداً" إلى بنية معمارية تصمد بموثوقية أمام الاختبارات العدائية؟ وهل ستنشر الشركة تفاصيل كافية حول آليات التحقق من الامتثال لتتمكن جهات البحث الخارجية من التثبت باستقلالية من أن هذا الالتزام يتجاوز كونه مجرد وثيقة سياسة؟