انتروپیک از عرضه عمومی مدل هوش مصنوعی قدرتمند 'Mythos' به دلیل خطرات امنیت سایبری خودداری کرد

شرکت انتروپیک، یکی از پیشگامان در زمینه تحقیقات و ایمنی هوش مصنوعی، تصمیم مهمی مبنی بر محدود کردن عرضه جدیدترین مدل خود به نام 'Mythos' به دلیل نگرانی‌های مربوط به قابلیت‌های قدرتمند امنیت سایبری آن اتخاذ کرده است. این شرکت اعلام کرد که پس از کشف تیم قرمز داخلی مبنی بر اینکه این مدل می‌تواند برای سازماندهی حملات سایبری پیچیده مورد استفاده قرار گیرد، از عرضه عمومی گسترده آن خودداری خواهد کرد.

در حالی که 'Mythos' یک هوش مصنوعی با کاربرد عمومی است، دارای مهارت‌های کدنویسی و استدلال فوق‌العاده پیشرفته‌ای است. این توانایی‌ها به آن اجازه داد تا آسیب‌پذیری‌های دیرینه در نرم‌افزارهای حیاتی اینترنت، از جمله یک باگ ۲۷ ساله را شناسایی کند. با این حال، همین نقاط قوت به یک شمشیر دولبه تبدیل شدند. محققان ایمنی انتروپیک نشان دادند که می‌توان به 'Mythos' دستور داد تا اکسپلویت‌ها را به هم زنجیر کرده و به طور موثر حملات جدیدی علیه تمام سیستم‌عامل‌ها و مرورگرهای وب اصلی ایجاد کند.

در مواجهه با این پتانسیل سوءاستفاده، انتروپیک رویکردی محتاطانه را برگزیده است. از طریق ابتکاری به نام 'پروژه گلس‌وینگ'، این شرکت دسترسی اولیه به 'Mythos' را به گروهی منتخب از شرکای مورد اعتماد ارائه می‌دهد. این گروه شامل غول‌های فناوری مانند اپل، آمازون، مایکروسافت و گوگل و همچنین چندین شرکت تخصصی امنیت سایبری است. هدف این است که این سازمان‌ها از 'Mythos' برای شکار پیشگیرانه آسیب‌پذیری‌ها در سیستم‌های خود استفاده کنند و تمام یافته‌ها برای توسعه حفاظ‌های ایمنی قوی‌تر برای مدل‌های آینده هوش مصنوعی به اشتراک گذاشته شود.

این اقدام، دوراهی رو به رشد در صنعت هوش مصنوعی را برجسته می‌کند: چگونه می‌توان بین پیشرفت سریع ابزارهای قدرتمند و نیاز حیاتی به استقرار مسئولانه و ایمنی عمومی تعادل برقرار کرد. تصمیم انتروپیک برای محرمانه نگه داشتن 'Mythos' در حال حاضر، لحظه‌ای تعیین‌کننده در گفتگوی مداوم درباره تنظیم‌گری و توسعه اخلاقی هوش مصنوعی است.