أنثروبيك تحذر: الذكاء الاصطناعي قد يقترب من عتبة التحسين الذاتي

كشفت شركة Anthropic في وثيقة تنظيمية محدّثة أنها قد تقترب من عتبة حاسمة في تطوير الذكاء الاصطناعي: التحسين الذاتي التكراري (RSI)، وهو المرحلة التي يصبح فيها النظام قادراً على تسريع تدريبه وأبحاثه وقدراته بشكل مستقل دون توجيه مباشر من البشر. وتصف الشركة هذه العتبة بأنها أهم نقطة تحول في مجال السلامة حددتها حتى الآن.

جاء هذا التحذير في النشرة المحدّثة لطرح أسهم Anthropic العام (S-1A)، التي أعادت الشركة تحديثها استعداداً للطرح العام المستهدف في نوفمبر 2026. وتعرّف الشركة عتبة RSI بأنها النقطة التي يستطيع فيها نموذج الذكاء الاصطناعي أداء عمل فريق بحثي بالكامل، أو على الأقل مضاعفة وتيرة التقدم الحالية. ولم تُصنّف أيٌّ من نماذج Anthropic الحالية باعتبارها تجاوزت هذا الخط، غير أن الشركة تؤكد أن المسافة الفاصلة تتقلص.

بموجب سياسة التوسع المسؤول (RSP) الخاصة بـAnthropic، يستوجب الاقتراب من قدرة RSI إجراء مراجعات سلامة إلزامية، وقد يتطلب تعليق التطوير إلى حين توفر ضمانات كافية. وأعلنت الشركة أنها تدرس تحديث سياسة RSP ذاتها لضمان الحفاظ على السيطرة البشرية على تطوير النماذج الحدية.

تتضمن الوثيقة أيضاً مقترحاً للحوكمة: تعتزم Anthropic جمع الحكومات والباحثين المستقلين والمختبرات المنافسة لاختبار جدوى آليات دولية منسقة يمكنها إبطاء التطوير أو تعليقه عند الضرورة.

يُعدّ مفهوم RSI محلّ نقاش في أوساط سلامة الذكاء الاصطناعي منذ سنوات، لكن هذه هي المرة الأولى التي يُقرّ فيها مختبر رائد رسمياً في وثيقة ملزمة قانوناً بأن هذه القدرة قد تكون في متناول اليد في المستقبل القريب.