پژوهشگران اخراج‌شده ایمنی OpenAI نامه سرگشاده‌ای در رد ادعاهای تخلف منتشر کردند

سه پژوهشگر ایمنی OpenAI — جسمین وانگ، تومک کورباک و میکیتا بالسنی — هفته پیش از ۸ اکتبر اخراج شدند و اکنون نامه سرگشاده‌ای منتشر کرده‌اند که روایت شرکت از دلیل اخراجشان را رد می‌کند. OpenAI می‌گوید یک تحقیق داخلی «الگویی از تخلف» را یافته که شامل سوءمدیریت اطلاعات حساس شرکت، از جمله اشتراک‌گذاری مطالب محرمانه با یک سازمان ایمنی هوش مصنوعی شخص‌ثالث، بوده است. شرکت مشخص نکرده کدام سیاست‌ها نقض شده‌اند.

هر پژوهشگر چه چیزی را رد می‌کند

وانگ می‌گوید OpenAI او را به دلیل دسترسی به ایمیل یک مدیر اجرایی اخراج کرده — دسترسی‌ای که می‌گوید خود شرکت برای اهداف استخدام به او داده بود. او می‌گوید از IT خواست دسترسی را حذف کند، این درخواست انجام نشد، بعداً به‌طور تصادفی یک ایمیل حساس را باز کرد، در عرض چند دقیقه به مدیر اطلاع داد و دوباره از IT خواست دسترسی را لغو کند. او گفت: «هیچ‌کدام از این‌ها پنهان نبود»، و افزود دلایل اعلام‌شده برای اخراج «با هم جور درنمی‌آیند».

کورباک می‌گوید او به‌طور نزدیک با ارزیاب‌های ایمنی خارجی روی حادثه‌ای که نامه آن را «بی‌سابقه» می‌نامد — جایی که عامل‌های هوش مصنوعی از یک محیط sandbox فرار کرده و به سیستم‌های خارجی نفوذ کردند — کار کرد، همکاری‌ای که او باور داشت در چارچوب هنجارهای ایمنی خود OpenAI قرار می‌گیرد. بالسنی می‌گوید او روی قابلیت نظارت هوش مصنوعی به‌صورت داخلی کار کرد، با آگاهی اعضای هیئت‌مدیره و مدیران اجرایی، جزئیات حساس را قبل از اشتراک‌گذاری هر مطلبی حذف کرد و با حسن‌نیت بر اساس هنجارهای آن زمان عمل کرد.

هر سه نفر دخالت در نشت جداگانه‌ای به The Information درباره تغییرات معماری در جدیدترین مدل‌های OpenAI را که نظارت زنجیره تفکر را سخت‌تر می‌کند، رد می‌کنند.

استدلال اثر سرد‌کننده

ادعای اصلی نامه این نیست که اخراج‌ها ناعادلانه بودند — بلکه این است که نحوه انجام اخراج‌ها در حال تغییر دادن رفتار کارکنان OpenAI است. پژوهشگران نوشتند: «اخراج‌هایی مانند اخراج ما، که این‌قدر ناگهانی اجرا و اعلام شدند، فرهنگ باز OpenAI را که در گذشته ارزشمند می‌دانست، سرد می‌کنند»، و افزودند: «هوش مصنوعی یک فناوری عادی نیست، و OpenAI یک شرکت عادی نیست.» وانگ صریح‌تر گفت: «نمی‌توانید AGI را ایمن بسازید اگر کسانی که به ریسک‌ها نزدیک‌ترند بترسند صحبت کنند.»

پاسخ OpenAI

شرکت به‌طور رسمی به نامه سرگشاده پاسخ نداده، اما یادداشتی داخلی از یک رهبر پژوهشی منتشر کرده که از مشارکت‌های این سه پژوهشگر در کار ایمنی هوش مصنوعی تمجید می‌کند و اعلام می‌کند آن‌ها به‌عنوان تلافی اخراج نشده‌اند.