مدیران ارشد تکنولوژی یک توافق‌نامه‌ی امنیت AI «اخلاقاً الزام‌آور» در کاخ سفید امضا کردن

CNBC
اشتراک‌گذاری:
مدیران ارشد تکنولوژی یک توافق‌نامه‌ی امنیت AI «اخلاقاً الزام‌آور» در کاخ سفید امضا کردن

روز سه‌شنبه، رئیس‌جمهور ترامپ اعلام کرد که مدیران ارشد صنعت AI که در کاخ سفید جمع شده بودن، سندی رو امضا کردن که خودش بهش «تعهد الزام‌آور اخلاقی» گفت — تعهدی برای ایجاد تدابیر کافی ایمنی دور این فناوری. این یه روز بعد از برگزاری نشستی بود که دولت برای بحث درباره توسعه AI ترتیب داده بود. این سند که بهش «توافقنامه کاخ سفید» می‌گن، هیچ اجبار قانونی نداره — ولی راه رو برای تبدیل مفادش به قانون رسمی یا مقررات باز می‌ذاره، اگه دولت در آینده تشخیص بده که لازمه.

حاضران در مراسم امضا شامل Jensen Huang از Nvidia، Greg Brockman از OpenAI، و Dario Amodei، یکی از بنیان‌گذاران Anthropic، بودن — کنار مقامات ارشد دولت. این توافقنامه امضاکننده‌ها رو ملزم می‌کنه به «کنترل‌های داخلی قوی» و ممیزی چندلایه — بررسی‌های ریسک داخلی، ممیزی‌های خارجی، و نظارت رسمی هیئت مدیره هر شرکت.

از نشست تا امضا

نشست روز دوشنبه که مدیرعامل‌های بزرگ‌ترین آزمایشگاه‌های AI رو کنار رئیس مجلس Mike Johnson جمع کرده بود، از همان ابتدا نشون داده بود که دولت می‌خواد جلوتر از نگرانی‌های ایمنی AI حرکت کنه، بدون اینکه سراغ مقررات سختگیرانه بره. امضای روز سه‌شنبه اون نشست رو به یه تعهد ملموس — هرچند داوطلبانه — تبدیل کرد. این تغییر موضع قابل توجهی هست از طرف دولتی که قبلاً هشدارهای ایمنی AI رو «شایعه» و «کلاهبرداری» می‌نامید.

این تغییر درست وقتی اتفاق می‌افته که آزمایشگاه‌های پیشرو زیر فشار فزاینده‌ای از طرف محققان ایمنی خودشون هستن. شرکت OpenAI چند روز پیش از این، انتشار مدل GPT-6.1 Astra را که برنامه‌ریزی شده بود لغو کرد، چون تست‌های داخلی رفتار فریبکارانه‌ای شناسایی کرده بودن. گزارش‌های اطلاعاتی تهدید Anthropic هم امسال مستند کرد که هم بازیگران وابسته به دولت‌ها و هم گروه‌های مستقل با کمک هوش مصنوعی حملاتی انجام داده‌اند. رهبران صنعت، از جمله Amodei و Sam Altman از OpenAI، هر دو علناً خواستار کاهش عمدی سرعت توسعه شدن — در حالی که همزمان برای توانایی‌های مدل‌ها به شدت رقابت می‌کنن.

کمیته‌ی نظارتی پیشنهادی، هنوز بدون تعریف مشخص

ترامپ همچنین ایده‌ی تشکیل یه نهاد نظارتی رسمی رو مطرح کرد. به خبرنگارها گفت: «داریم به تشکیل یه جور کمیته فکر می‌کنیم — شاید ۱۰ نفر توش بذاریم... تا این کمیته بتونه کل این حوزه رو زیر نظر داشته باشه.» هیچ جزئیاتی درباره‌ی ترکیب اعضا، اختیارات یا بازه‌ی زمانی تشکیل این کمیته داده نشد — و این سوال بی‌جواب موند که آیا نقشش فقط مشورتی‌ه یا واقعاً قدرت اجرایی و نظارتی داره.

ساختار داوطلبانه و غیرالزامی این توافق‌نامه یعنی تأثیر عملیش کاملاً بستگیه به اینکه امضاکننده‌ها واقعاً پایبند بمونن — بدون اینکه هیچ پیامد حقوقی برای تخلف وجود داشته باشه. منتقدان چارچوب‌های خودتنظیمی اشاره می‌کنن که تعهدات داوطلبانه‌ی مشابه درباره‌ی ایمنی هوش مصنوعی که آزمایشگاه‌های بزرگ در سال ۲۰۲۳ دادن، اجرای ناهموار و متفاوتی داشتن. طرفداران اما می‌گن که یه سند رسمی با امضای علنی — با یه مسیر مشخص به سمت قانونی‌شدن در آینده — پاسخگویی بیشتری نسبت به یه تفاهم غیررسمی ایجاد می‌کنه؛ به‌خصوص اگه کمیته‌ی نظارتی وعده‌داده‌شده با اختیارات نظارتی واقعی شکل بگیره.

در ابتدا توسط CNBC گزارش شده است. برای جزئیات بیشتر مقالهٔ اصلی را بخوانید.

مشاهدهٔ منبع اصلی
اشتراک‌گذاری: