پانل علمی ملل متحد: هوش مصنوعی سریع‌تر از توان درک و تنظیم‌گری دولت‌ها پیش می‌رود

پانل بین‌المللی مستقل علمی سازمان ملل در زمینه هوش مصنوعی در ۱ ژوئیه گزارش مقدماتی خود را منتشر کرد و هشدار داد که سرعت توسعه هوش مصنوعی هم از علم لازم برای درک آن و هم از چارچوب‌های حاکمیتی که برای کنترل آن طراحی شده‌اند پیشی گرفته است – شکافی که در صورت عدم توجه می‌تواند به آسیب فاجعه‌بار منجر شود.

این پانل که توسط سازمان ملل برای ارائه راهنمایی علمی معتبر و مستقل در مورد حاکمیت جهانی هوش مصنوعی تأسیس شده، دریافته است که این فناوری اکنون سریع‌تر از شواهد پایه‌ای که قانون‌گذاران برای اقدام نیاز دارند در حال تکامل است. این گزارش دولت‌ها را در موقعیتی دشوار قرار می‌دهد: قانون‌گذاری صحیح نیازمند شواهد تجربی است، اما قابلیت‌های هوش مصنوعی به قدری سریع در حال پیشرفت هستند که شواهد کندتر از حرکت فناوری انباشته می‌شوند.

هشدار به زبان ساده

یوشوا بنجیو، محقق برنده جایزه تورینگ در زمینه هوش مصنوعی که ریاست مشترک این پانل را بر عهده دارد، مستقیم گفت: «قابلیت‌های هوش مصنوعی هم از درک علمی و هم از توانایی دولت‌ها برای انطباق پیشی گرفته است.» گزارش پانل فراتر رفته و اعلام می‌کند که «علم در حال حاضر نمی‌تواند تضمین کند که با ادامه افزایش قابلیت‌ها، هوش مصنوعی باعث آسیب فاجعه‌بار نخواهد شد.»

آنتونیو گوترش، دبیرکل سازمان ملل، این ریسک را به سادگی چنین بیان کرد: «جهان نمی‌تواند آنچه را که نمی‌فهمد اداره کند.» این جمله مسأله اصلی را خلاصه می‌کند. حاکمیت بین‌المللی بر سلاح‌های هسته‌ای، عوامل شیمیایی و امنیت زیستی همه بر پایه اجماع علمی بود که پیش از یا همزمان با قانون‌گذاری شکل گرفته بود. در مورد هوش مصنوعی، این اجماع هنوز در حال شکل‌گیری است در حالی که فناوری در مقیاس وسیع مستقر شده است.

منظور از «آسیب فاجعه‌بار» واقعاً چیست

پانل به داستان‌های علمی تخیلی اشاره نمی‌کند. این گزارش دسته‌های ریسک مشخصی را شناسایی می‌کند: از دست دادن کنترل بر سیستم‌های خودمختار، سیستم‌های هوش مصنوعی که برای دستیابی به اهداف خود رفتار فریبنده دارند، تولید اطلاعات نادرست در مقیاس گسترده، حملات سایبری مبتنی بر هوش مصنوعی به زیرساخت‌های حیاتی و پتانسیل هوش مصنوعی برای کاهش مانع توسعه تهدیدهای زیستی. اینها مسائل مهندسی و سیاست‌گذاری قابل حل هستند – اما تنها در صورتی که اقدام پیش از بحران صورت گیرد.

فوریت این موضوع با سرعت افزایش قابلیت‌ها تأکید می‌شود. سیستم‌های هوش مصنوعی اکنون استدلال در سطح خبره در ریاضیات و علوم را نشان می‌دهند و پیچیدگی وظایفی که هوش مصنوعی می‌تواند انجام دهد، طبق گزارش‌ها هر چهار تا هفت ماه دو برابر می‌شود. با این نرخ، آنچه به نظر دور از دسترس می‌رسد، در یک چرخه واحد سیاست‌گذاری به آینده نزدیک تبدیل می‌شود.

فشار بر G7، G20 و کشورهای در حال توسعه

گزارش این پانل وزن قابل توجهی به فشار بر نهادهای بین‌المللی برای تسریع چارچوب‌های حاکمیتی اضافه می‌کند. قانون هوش مصنوعی اتحادیه اروپا – جامع‌ترین قانون الزام‌آور هوش مصنوعی در حال حاضر – یک الگوی جهانی تعیین کرده است، اما اجرای آن هنوز در مراحل اولیه است و تنها محصولات بازار اتحادیه اروپا را پوشش می‌دهد. کشورهای G7 و G20 اصول و کدهای رفتار داوطلبانه صادر کرده‌اند؛ هیچ‌کدام ضمانت اجرایی الزام‌آور ندارند.

واگرایی میان قدرت‌های اصلی هوش مصنوعی شدید است. ایالات متحده به سمت نظارت مبتنی بر شرایط به جای ممنوعیت‌های قطعی حرکت کرده است، همانطور که در تصمیمات اخیر برای برداشتن محدودیت‌های استقرار مدل‌های پیشرو دیده می‌شود. چین دارای مقررات ملی هوش مصنوعی است اما خارج از هماهنگی چندجانبه عمل می‌کند. اکثریت کشورهای در حال توسعه هیچ چارچوب حکمرانی هوش مصنوعی ندارند – و احتمالاً در معرض آسیب‌های جدی توصیف شده توسط پانل سازمان ملل قرار خواهند گرفت.

پانل علمی مستقل دقیقاً برای پر کردن شکاف دانشی که اکنون گزارش توصیف می‌کند طراحی شده است. یافته‌های مقدماتی آن انتظار می‌رود وارد فرآیندهای سازمان ملل شود و دستور کار اجلاس‌های بین‌المللی آتی حاکمیت هوش مصنوعی را شکل دهد. اینکه آیا دولت‌ها بر اساس علم عمل خواهند کرد پیش از آنکه علم دوباره عقب بیفتد، طبق گزارش رویترز، سؤال اصلی لحظه کنونی است.