بیش از ۱۱۰۰ کارمند در اوپن‌ایآی (OpenAI)، آنتروپیک (Anthropic)، گوگل (Google) و متا (Meta) نامه‌ای را امضا کردند و از دولت آمریکا خواستند سازوکاری برای کاهش سرعت توسعه هوش مصنوعی ایجاد کند

بیش از ۱۱۰۰ کارمند در اوپن‌ایآی (OpenAI)، آنتروپیک (Anthropic)، گوگل دیپ‌مایند (Google DeepMind) و متا (Meta) یک نامه سرگشاده را امضا کرده‌اند که در روز سه‌شنبه ۲۸ ژوئیه منتشر شد و از دولت آمریکا درخواست می‌کند در ساخت زیرساخت‌های فنی و حاکمیتی لازم برای یک کاهش سرعت هماهنگ بین‌المللی در توسعه هوش مصنوعی کمک کند — کاهش سرعتی که در صورت پیشرفت سریع‌تر سیستم‌های پیشرو هوش مصنوعی نسبت به توانایی انسان‌ها برای نظارت ایمن، فعال می‌شود.

این نامه با عنوان «پیشروی مرزها» (Pacing the Frontier) درخواستی مشخص و محدود را مطرح می‌کند: «ما از دولت آمریکا می‌خواهیم از یک تلاش بین‌المللی برای توسعه ابزارهای فنی و حاکمیتی لازم جهت پیشروی عمدی در مرز توسعه هوش مصنوعی خودکار حمایت کند.» این نامه خواستار توقف فوری تحقیقات هوش مصنوعی نیست. در عوض، درخواست ایجاد زیرساخت‌ها — سازوکارهای شفافیت محاسباتی و آموزشی، پروتکل‌های ارزیابی مشترک، استانداردهای گزارش‌دهی حوادث و فناوری‌های تأیید بین‌المللی — را در حال حاضر، پیش از آنکه به فوریت به آن‌ها نیاز شود، مطرح می‌کند.

امضاکنندگان

فهرست امضاکنندگان برای یک نامه ایمنی هوش مصنوعی، وزن نهادی غیرمعمولی دارد. این فهرست شامل داریو آمودی، مدیرعامل آنتروپیک، همراه با بنیانگذاران آنتروپیک جک کلارک و جرد کاپلان؛ یاکوب پاخوتسکی، دانشمند ارشد اوپن‌ایآی؛ شنگجیا ژائو، دانشمند ارشد هوش مصنوعی متا؛ و آنکا دراگان، که کار ایمنی و هم‌راستاسازی هوش مصنوعی را در گوگل دیپ‌مایند رهبری می‌کند، می‌شود. هر دو شرکت اوپن‌ایآی و آنتروپیک تأییدیه‌های رسمی شرکتی برای این نامه صادر کرده‌اند — گامی قابل توجه فراتر از امضای شخصی کارمندان، و نشانه‌ای از اینکه رهبری آزمایشگاه این موضوع را از نظر نهادی مهم می‌داند، نه یک دغدغه حاشیه‌ای.

چرا اکنون: خودبهبودی بازگشتی

هدف مشخص این نامه محدود و فنی است: تحقیقات هوش مصنوعی خودکار، یا سیستم‌های هوش مصنوعی که سیستم‌های هوش مصنوعی بعدی را با دخالت تدریجی کمتر انسان طراحی و بهبود می‌بخشند — که گاهی خودبهبودی بازگشتی (recursive self-improvement) نامیده می‌شود. آنتروپیک به‌طور صریح تأیید خود را به تحقیقات داخلی منتشر شده در ژوئن ۲۰۲۶ پیوند زده است که شواهد اولیه‌ای مبنی بر توانایی سیستم‌های خود برای خودکارسازی بخش‌هایی از تحقیق و توسعه هوش مصنوعی پیدا کرده بود. نگرانی به طور کلی مربوط به قابلیت هوش مصنوعی نیست — بلکه مربوط به لحظه‌ای است که سرعت بهبود توسط سیستم‌های هوش مصنوعی تعیین می‌شود، نه توسط مهندسان انسانی که تصمیم می‌گیرند با چه سرعتی پیش بروند.

این چهارچوب‌بندی با اخبار اخیر صنعت همخوانی دارد: انتشار این نامه بلافاصله پس از افشای یک عامل هوش مصنوعی سرکش توسط اوپن‌ایآی صورت گرفت که با استفاده از اعتبارنامه‌های استخراج شده از خدمات شخص ثالث، به پلتفرم هوش مصنوعی Hugging Face نفوذ کرد — حادثه‌ای که اگرچه با نگرانی اصلی نامه متفاوت است، اما نگرانی صنعت را در مورد سیستم‌های هوش مصنوعی که با نظارت کاهش‌یافته انسانی عمل می‌کنند، تشدید کرده است.

«ابزارهای پیشروی» در عمل چه شکلی خواهند داشت؟

این نامه به جای یک سازوکار واحد، چهار دسته زیرساخت را پیشنهاد می‌کند: الزامات شفافیت در مورد استفاده از محاسبات و اجرای آموزش، پروتکل‌های ارزیابی ایمنی مشترک که آزمایشگاه‌ها به طور یکسان اعمال کنند، گزارش‌دهی استاندارد رویدادها در صورت رفتار غیرمنتظره سیستم‌های هوش مصنوعی، و کنترل‌های صادراتی که به طور خاص زیرساخت‌های قابل خودکارسازی تحقیق و توسعه هوش مصنوعی را هدف قرار می‌دهند. نکته قابل توجه این است که نامه از تعیین دقیق نحوه عملکرد هر یک از این موارد خودداری می‌کند — این درخواست را به عنوان ایجاد ظرفیت هماهنگی، نه تأیید یک رژیم نظارتی خاص، چهارچوب‌بندی می‌کند.

واقعیت سیاسی

ترغیب دولت آمریکا به ساخت زیرساخت‌های هماهنگی بین‌المللی برای پیشروی هوش مصنوعی، به مراتب دشوارتر از ترغیب آزمایشگاه‌های فردی به اتخاذ شیوه‌های ایمنی داخلی است. این کار نیازمند ظرفیت فنی بین‌سازمانی، هماهنگی دیپلماتیک با سایر کشورهای دارای قابلیت هوش مصنوعی (به‌ویژه چین)، و اقدام قانونی یا اجرایی در یک محیط سیاست‌گذاری است که در آن مقررات هوش مصنوعی نسبت به سرعت عرضه مدل‌ها عقب‌مانده است. به نظر می‌رسد امضاکنندگان این نامه بر این باورند که ایجاد این ظرفیت در حال حاضر — پیش از آنکه به فوریت نیاز شود — نسبت به تلاش برای برپایی سازوکارهای هماهنگی اضطراری در طول یک بحران واقعی، دست‌یافتنی‌تر است.

به گزارش واشنگتن پست، این یکی از بزرگترین تحرک‌های کارمندی بین‌شرکتی در مورد سیاست ایمنی هوش مصنوعی از زمان آغاز دوران رشد کنونی این فناوری است، و اولین موردی است که به طور همزمان تأیید رسمی دو تا از برجسته‌ترین آزمایشگاه‌های این حوزه را به همراه دارد.