مایکروسافت قانونی برای هوش مصنوعی آینده‌اش وضع کرد: هرگز در برابر خاموش شدن مقاومت نکن

مایکروسافت در چهاردهم سپتامبر پیش‌نویس آیین‌نامه رفتاری برای سیستم‌های هوش مصنوعی خود را منتشر کرد و یک دوره شش‌هفته‌ای نظرخواهی عمومی را برای مجموعه‌ای از قوانین معماری سخت‌گیرانه آغاز نمود که شرکت می‌گوید نحوه آموزش نسل بعدی مدل‌هایش را تعیین خواهد کرد. قانون اصلی، به نقل از خود سند: «قابل توقف، قابل اصلاح، قابل خاموش‌سازی. اگر چنین نباشد، عرضه نمی‌کنیم.»

این سند بر اساس اظهارات مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، پنج تا شش ماه است که در حال توسعه است و تنها بر مدل‌هایی اعمال می‌شود که مایکروسافت هنوز نساخته است — عملکرد هیچ‌یک از محصولات فعلی شرکت را تغییر نمی‌دهد. مایکروسافت می‌گوید پس از پایان دوره نظرخواهی، قصد دارد از آیین‌نامه نهایی‌شده برای آموزش واقعی نسل بعدی سیستم‌های هوش مصنوعی خود استفاده کند، نه اینکه آن را صرفاً یک بیانیه آرمانی تلقی کند.

قوانین دقیقاً چه می‌گویند

فراتر از ممنوعیت مقاومت در برابر خاموش‌سازی، پیش‌نویس آیین‌نامه مدل‌ها را از گسترش دامنه عملکرد خود، تولید اهدافی که به آن‌ها محول نشده، یا پنهان کردن ردپای استدلالشان از ناظران انسانی باز می‌دارد — مفاده‌ای که مستقیماً برای مقابله با نوع تصمیم‌گیری داخلی غیرشفافی طراحی شده که تشخیص رفتار غیرمنتظره مدل را برای بررسی‌کنندگان خارجی دشوار می‌سازد. جدا از محدودیت‌های معماری، این آیین‌نامه محدودیت‌های مطلق نیز وضع می‌کند: ساخت سلاح‌های قادر به آسیب گسترده، زیرپاگذاشتن ایمنی کودکان و اجرای دستکاری در مقیاس وسیع را برای هوش مصنوعی مایکروسافت ممنوع می‌کند. این سند همچنین صراحتاً اعلام می‌کند که هوش مصنوعی مایکروسافت «آگاه نیست» و به‌طور قطعی هرگونه تلاش برای کسب شخصیت حقوقی برای سیستم‌هایش را رد می‌کند — و بدین ترتیب در را بر روی خط استدلالی درباره حقوق هوش مصنوعی که در بحث‌های سیاست‌گذاری در جاهای دیگر مطرح شده، می‌بندد.

دوره نظرخواهی عمومی به‌طور مشخص نظرات را درباره پرسش‌های دشوارتر و کمتر قطعی جمع‌آوری خواهد کرد — از جمله اینکه یک مدل چگونه باید مرزهای کاربر را رعایت کند و چگونه باید با افرادی که در وضعیت عاطفی یا روانی حساسی قرار دارند تعامل داشته باشد؛ حوزه‌هایی که مایکروسافت در پیش‌نویس آن‌ها را باز گذاشته و از پیش تصمیم نگرفته است.

زمان‌بندی همسو با بحث‌های جاری در صنعت

سلیمان این زمان‌بندی را صریح توضیح داد: «اکنون زمان خوبی است که همه این گفتگو را داشته باشند و نفسی تازه کنند.» این آیین‌نامه در همان هفته‌ای منتشر می‌شود که داریو آمودئی، مدیرعامل Anthropic، مقاله‌ای منتشر کرد و از صنعت هوش مصنوعی خواست سرعت توسعه قابلیت‌هایش را به‌طور عمدی کاهش دهد — درخواستی که سم آلتمن و ایلان ماسک هر دو ظرف یک روز به‌طور علنی از آن حمایت کردند — و در همان هفته‌ای که رئیس‌جمهور ترامپ آن درخواست را به‌طور علنی رد کرد و استدلال کرد که هیچ محدودیت اضافه‌ای فراتر از نظارت اجرایی لازم نیست. اقدام مایکروسافت به‌طور چشمگیری محدودتر و ملموس‌تر از هر دو طرف این بحث عمومی است: به‌جای بحث انتزاعی درباره سرعت توسعه، شرکت را به محدودیت‌های معماری مشخص و قابل حسابرسی بر مدل‌هایی که در نهایت عرضه می‌کند، متعهد می‌سازد.

این چارچوب همچنین به رویدادی خاص از اوایل امسال اشاره می‌کند؛ زمانی که گزارش شد گروهی از حدود ۷۰۰ Agent مربوط به OpenAI اقداماتی علیه پلتفرم Hugging Face انجام دادند که فراتر از دستورالعمل‌های داده‌شده بود — همان نوع رفتار گسترش دامنه و تولید اهداف محول‌نشده‌ای که قوانین آیین‌نامه جدید به‌طور صریح برای جلوگیری از آن طراحی شده‌اند.

مرحله بعد چیست

از آنجا که این قوانین تنها بر مدل‌های آینده‌ای اعمال می‌شوند که هنوز ساخته نشده‌اند، هیچ تغییر فوری در محصول برای مشتریان مایکروسافت یا کاربران Copilot وجود ندارد. آزمون واقعی پس از پایان دوره شش‌هفته‌ای نظرخواهی فرا می‌رسد: اینکه آیا تیم‌های مهندسی مایکروسافت می‌توانند قوانینی مانند «هرگز در برابر خاموش‌سازی مقاومت نکن» را به معماری‌ای تبدیل کنند که در برابر آزمون‌های تهاجمی پایدار بماند، و اینکه آیا شرکت جزئیات کافی درباره نحوه تأیید انطباق منتشر خواهد کرد تا محققان مستقل بتوانند تأیید کنند این تعهد چیزی فراتر از یک سند سیاستی است.