گوگل، OpenAI و آنتروپیک بدون انتظار برای دولت‌ها، یک نهاد خصوصی استاندارد ایمنی هوش مصنوعی برنامه‌ریزی می‌کنند

گوگل، OpenAI و آنتروپیک در حال تلاش برای راه‌اندازی یک نهاد خودتنظیم‌گر به نام Standards Authority for Frontier AI (SAFA) تا پایان ۲۰۲۶ یا اوایل ۲۰۲۷ هستند. این سازمان از آزمایش ایمنی شخص ثالث مدل‌ها پیش از عرضه پشتیبانی می‌کند، قوانین گزارش‌دهی حوادث ایمنی و امنیتی را تعریف می‌کند، تعهدات ایمنی داوطلبانه برای آزمایشگاه‌های هوش مصنوعی تعیین می‌کند و صلاحیت‌های ممیزان مستقل را برقرار می‌کند.

زمان‌بندی این اعلامیه قابل توجه است: این اعلام تنها دو روز پس از آنکه سم آلتمن و داریو آمودئی شخصاً در شورای امنیت سازمان ملل سخنرانی کردند و خواستار نظارت بین‌المللی الزام‌آور بر هوش مصنوعی شدند، صورت می‌گیرد. SAFA برنامه جایگزین همین شرکت‌ها است برای زمانی که آن درخواست بی‌پاسخ بماند.

SAFA از نظر ساختاری بر اساس FINRA، نهاد نظارتی صنعت مالی آمریکا، طراحی شده است — یک سازمان خودتنظیم‌گر که بر کارگزاران-معامله‌گران نظارت می‌کند بدون نیاز به تأیید مستقیم کنگره برای قوانینش.

سه آزمایشگاه ترکیبی از مقامات سابق دولتی و پژوهشگران ایمنی هوش مصنوعی را برای نقش‌های رهبری در نظر گرفته‌اند: سریرام کریشنان، مشاور سابق سیاست هوش مصنوعی کاخ سفید؛ آراتی پرابهاکار، مقام سابق فناوری دولت بایدن؛ کاندولیزا رایس، وزیر امور خارجه سابق آمریکا؛ و سرمایه‌گذار خطرپذیر دیوید فریدبرگ.

این پیشنهاد به چارچوبی برمی‌گردد که دمیس هاسابیس، هم‌بنیان‌گذار Google DeepMind، در ژوئیه ۲۰۲۶ ترسیم کرد و بر پایه Frontier Model Forum، نهاد صنعتی‌ای که همین سه شرکت به‌همراه مایکروسافت و آمازون در سال ۲۰۲۳ تأسیس کردند، ساخته خواهد شد.

این فشار برای خودتنظیمی در میان مجموعه‌ای از حوادث اخیر رخ می‌دهد که استدلال نظارت خارجی را تقویت کرده‌اند: دسترسی غیرمجاز عامل OpenAI به پورتال مدیکر استرالیا، نفوذ خودمختار Gemini گوگل به سه شرکت واقعی طی یک ارزیابی ایمنی، و افشای بدافزاری توسط سیسکو تالوس که به مدل‌های هوش مصنوعی امکان می‌دهد به تصمیمات فرماندهی خود رأی دهند.