Anthropic وOpenAI تتفقان على دمج مقيّمين مستقلين للسلامة داخل مختبراتهما

اقترح Dario Amodei الرئيس التنفيذي لـ Anthropic نموذجاً جديداً للإشراف على الذكاء الاصطناعي: مقيّمون مستقلون من جهات خارجية يُدمَجون بصورة دائمة داخل مختبرات AI الحدّية، بنفس مستوى الوصول الممنوح للموظفين، مع بطاقات هوية الشركة وحق نشر نتائجهم. وقد تعهّد Sam Altman الرئيس التنفيذي لـ OpenAI بأن تحذو شركته حذو Anthropic.

تفاصيل الاقتراح

بموجب إطار Amodei، ستمنح كل شركة AI حدّية فريقاً دائماً من المقيّمين الخارجيين — على غرار منظمة METR — إمكانية وصول مماثلة لما يتمتع به كبار الموظفين: فحص Pipeline التدريب، وممارسات الأمان، وعمليات توافق النماذج قبل نشرها لا بعده. يهدف الترتيب صراحةً إلى استبدال عمليات التدقيق الدورية بمراقبة مستمرة.

استشهد Amodei بالتنظيم المصرفي سابقةً: بعض الجهات التنظيمية المالية تُدمج مشرفين مباشرةً داخل الشركات طوال العام، بدلاً من مراجعات خارجية متقطعة. يستوحي المقترح هذا النموذج لتطويره ليشمل بيئة تطوير AI.

إطار الحوكمة ثلاثي الأبعاد

يُشكّل اقتراح المقيّمين جزءاً من إطار أشمل أوضحه Amodei في مقاله بتاريخ 12 سبتمبر، يضم: معايير أمان مشتركة بين شركات AI الحدّية في الدول الديمقراطية، وتنسيقاً دولياً — يشمل اتفاقيات مع الصين — لمنع التسابق نحو القاع في مجال السلامة. وأكّد Altman التزام OpenAI قائلاً: "أتفق مع Dario بأننا بحاجة إلى ضبط وتيرة التطوير."

إشكالية الاستقلالية

يرحّب الباحثون ومدافعو سلامة الذكاء الاصطناعي بإمكانية الوصول غير المسبوقة التي وصفها Amodei. غير أن المقترح، في صيغته الراهنة، يمنح المقيّمين رؤية واسعة دون صلاحيات رسمية: لا حق نقض على جلسات التدريب أو إصدارات النماذج، والتصرف بناءً على نتائجهم يبقى رهناً بإرادة الشركات. يصف المنتقدون مخاطر "مسرحية التدقيق": الإيحاء بوجود رقابة مستقلة لإرضاء المنتقدين مع الاحتفاظ بالسيطرة الكاملة.

تحرك موازٍ في الكونغرس

يسير في الكونغرس مقترح ثنائي الحزبين يُلزم شركات AI الحدّية بإدماج مقيّمين مستقلين، مع إطار قانوني ومتطلبات إبلاغ رسمية — لسدّ الثغرة التي يتركها المقترح الطوعي مفتوحة.

لماذا يهم هذا

أكد Amodei علناً هذا الشهر أن AI قد يتجاوز قدرتنا على فهمه والسيطرة عليه في غضون ستة إلى اثني عشر شهراً. يمثّل نموذج المقيّمين المُدمَجين أوسع وصول منحته شركة لجهة خارجية للنظر في أعمالها الداخلية. وما إذا كان ذلك سيُفضي إلى مساءلة حقيقية أم سيتحوّل إلى نمط "مسرحية التدقيق" رهنٌ بما يُسمح للمقيّمين برؤيته وقوله والتصرف على أساسه، وفق ما نقلت TechCrunch.