حاكم كاليفورنيا نيوسوم يأمر بدراسة «زر إيقاف» للذكاء الاصطناعي الحدّي

وقّع حاكم كاليفورنيا غافن نيوسوم في 18 سبتمبر أمراً تنفيذياً يوجّه المسؤولين لتسريع تنفيذ قانونَين قائمَين للرقابة على الذكاء الاصطناعي، وعقد لجنة من الخبراء الخارجيين لتقديم توصيات بشأن ضمانات إضافية للأنظمة الحدّية، بما في ذلك احتمال إلزام بآلية إيقاف طارئة — ما يُعرف بـ«زر الإيقاف» — لأقوى النماذج.

يُسرّع الأمر قانونَين قائمَين: SB 813 الذي يضع إطاراً لمنظمات التحقق المستقلة لتقييم مخاطر أنظمة الذكاء الاصطناعي، وAB 1405 الذي ينشئ سجلاً حكومياً لمدققي الذكاء الاصطناعي بمعايير للاستقلالية والشفافية.

أمام اللجنة المشكَّلة حتى 16 نوفمبر — أي بعد شهرين من توقيع الأمر — لتقديم توصيات حول إلزام مطوري الذكاء الاصطناعي الحدّي رسمياً ببناء آلية إيقاف طارئة. قال نيوسوم: «نحن لا ننتظر للتصرف — سنسرع عملنا بشأن رقابة جوهرية ومسؤولة قبل فوات الأوان.»