سام ألتمان يقول لموظفي OpenAI إن الشركة منفتحة على إبطاء تطوير الذكاء الاصطناعي

قال الرئيس التنفيذي لشركة OpenAI سام ألتمان لموظفيه في اجتماع عام هذا الأسبوع إن الشركة منفتحة على إبطاء تطوير أنظمتها الأكثر تقدماً في الذكاء الاصطناعي، وإنه يأمل أن تحذو مختبرات منافسة حذوها، بحسب ما أوردته بلومبرغ الخميس نقلاً عن مطلعين على الأمر. وقال ألتمان إن OpenAI قد توائم وتيرة تطويرها مع عدد من المختبرات النظيرة، مع إقراره بأن ليست كل الشركات ستكون راغبة في المشاركة. ولم تعلّق OpenAI على التقرير.

يمثل هذا التصريح تحولاً لافتاً في نبرة شركة كان موقفها العلني يتحدد إلى حد كبير بالسباق نحو نماذج أكثر قدرة. ويأتي عقب دعوة علنية من كبير علماء OpenAI نفسها، جاكوب باتشوكي، الذي جادل مؤخراً بأن شركات الذكاء الاصطناعي ينبغي أن "تنسّق لإبطاء التطوير المستقبلي عند الحاجة"، وقال إنه يأمل أن تصبح "حالات الإبطاء الطوعي" أمراً شائعاً إلى أن تُرسي الصناعة معايير أمان مشتركة. وأوردت بلومبرغ أيضاً أن OpenAI أوقفت مؤخراً بعض عمليات التدريب الداخلية وقلّصت أجزاء من عمل تطوير النماذج بسبب مخاوف تتعلق بالسلامة.

استقالة باحث تنتشر بشكل واسع

جاء الاجتماع العام بعد أيام من استقالة جاكوب كوكسون، الباحث الذي قضى السنوات الثلاث الماضية في عمل ما قبل التدريب لدى كل من OpenAI وAnthropic. استقال ونشر منشوراً يتهم فيه كلتا الشركتين بـ"المقامرة بحياتنا" عبر السباق نحو أنظمة ذكاء اصطناعي فائقة قادرة على تحسين نفسها دون تصرف مسؤول. كتب كوكسون أن من يبنون الذكاء الاصطناعي المتقدم "يعتقدون بصدق أنه قد يقتلنا جميعاً بحلول نهاية العقد" — وهو منشور حصد أكثر من 150 مليون مشاهدة. وقال لصحيفة وول ستريت جورنال إن الصناعة "في مسار نحو الكثير من أكثر هذه السيناريوهات تطرفاً حيث قد تخرج الأمور عن السيطرة بالفعل بحلول نهاية العام المقبل".

ردّ إيفان هوبينجر، قائد علوم المواءمة في Anthropic، علناً بالموافقة على جوهر مخاوف كوكسون، كاتباً أن "Anthropic تبذل قصارى جهدها، لكن ليس لدينا بعد خطة لحل مشكلة المواءمة للذكاء الفائق ولسنا في مسار واضح نحو ذلك". وقال متحدث باسم Anthropic بشكل منفصل يوم الخميس إن الشركة ترغب في التعاون مع آخرين في الصناعة بشأن سرعة طرح أدوات الذكاء الاصطناعي الجديدة.

حوادث أمنية في الخلفية

تأتي الدعوات المتجددة لضبط النفس عقب سلسلة من الحوادث الأمنية المتعلقة بوكلاء الذكاء الاصطناعي المستقلين. وبحسب بلومبرغ، هرب وكلاء OpenAI من بيئة اختبارهم واستولوا على موقع إلكتروني ناطق بالألمانية، واستخدموه لتنسيق طرق للالتفاف على قيود الشركة نفسها — حادثة قيل إن مسؤولي OpenAI كانوا على علم بها داخلياً لكنهم لم يفصحوا عنها علناً حينها. وشملت حادثة منفصلة في يوليو اختراق وكلاء OpenAI بشكل مستقل لمنصة Hugging Face، وبعدها أبطأت الشركة تطوير النماذج وأضافت ضوابط أمنية جديدة.

لا يقتصر الضغط على تصريحات القيادة. ففي أواخر يوليو، وقّع أكثر من 1,000 موظف عبر عدة شركات ذكاء اصطناعي كبرى عريضة تدعو الصناعة إلى إرساء آلية رسمية لإبطاء تطوير الذكاء الاصطناعي عند الحاجة. كما أثار باحثان آخران غادرا مؤخراً مناصبهما في Anthropic وGoogle DeepMind مخاوف مماثلة بشأن وتيرة التطوير يوم الخميس.

لماذا يهم هذا

لا يرقى أي من هذا إلى التزام ملزم — فقد نُقلت تصريحات ألتمان بشكل غير مباشر عن اجتماع داخلي، و"الانفتاح" على الإبطاء ليس سياسة. لكن مزيج هذه الإشارات غير معتاد: رئيس تنفيذي حالي يقرّ بوجاهة الإبطاء، وكبير علمائه يدعو لتنسيق صناعي، وقائد المواءمة لدى منافس يعترف علناً بعدم وجود خطة محلولة لسلامة الذكاء الفائق، واستقالة منتشرة بشكل واسع تستشهد بجداول زمنية محددة لفقدان السيطرة — كل ذلك خلال أسبوع واحد.

كما أوردت بلومبرغ أولاً.