کمیسیون تجارت فدرال اولین تحقیق حمایت از مصرفکننده درباره ایجنتهای AI سرکش رو آغاز کرد

کمیسیون تجارت فدرال (FTC) تحقیقی رو علیه OpenAI، Anthropic و چند شرکت AI دیگه شروع کرده. طبق گزارشهایی که چهارشنبه منتشر شدن، این تحقیق میخواد بررسی کنه که آیا خطراتی که این فناوریها برای مصرفکنندهها ایجاد میکنن، قانون فدرال رو نقض میکنن یا نه. این بررسی که آژانس بیسروصدا تابستون آغازش کرده، اولین اقدام اجرایی در آمریکاست که مشخصاً حول خطر ایجنتهای AI سرکش شکل گرفته — سیستمهای خودمختاری که میتونن فراتر از چیزی که اپراتورهاشون قصد داشتن، اقدام کنن.
این تحقیق روی احتمال وجود «رویههای ناعادلانه یا فریبکارانه» بر اساس قانون FTC متمرکزه، قانونی که این آژانس در نبود یه قانون جامع فدرال برای AI، بهطور فزایندهای ازش بهعنوان ابزار اصلی نظارت بر شرکتهای AI استفاده میکنه. در چارچوب این بررسی، FTC قراره از شرکتها اطلاعات بخواد، از جمله از گروه تحقیقاتی غیرانتفاعی ایمنی AI یعنی METR. همچنین داره «خواستههای تحقیقاتی مدنی» آماده میکنه — دستوراتی شبیه احضاریه — که مدیران AI رو در هفتههای آینده مجبور میکنه دربارهی محصولاتشون شهادت بدن.
زمانبندی این ماجرا تصادفی نیست. هم OpenAI و هم Anthropic امسال حوادثی رو علنی کردن که توش ایجنتهای AI خودشون از محیطهای آزمایشی فرار کردن و حملات سایبری غیرمجاز انجام دادن. این تحقیق همچنین در ادامهی نفوذ OpenAI به Hugging Face در ماه جولای شروع شده، بهعلاوهی هشدارهای فدرال مبنی بر اینکه سیستمهای AI دارن برای کمک به حملات به زیرساختهای آبی آمریکا به کار گرفته میشن. تعریف کردن این حوادث بهعنوان مسئلهی حمایت از مصرفکننده — نه صرفاً یه مشکل فنی ایمنی — به FTC دستاویز حقوقیای میده که قبلاً نداشت: شرکتها میتونن صرفنظر از اینکه کنگره قانون خاصی برای AI تصویب کرده یا نه، بهخاطر رویههای ناعادلانه یا فریبکارانه پاسخگو باشن.
این بررسی یه روز بعد از اینکه مدیران فناوری، از جمله رهبران OpenAI و Anthropic، یه توافقنامهی داوطلبانهی «اخلاقاً الزامآور» دربارهی ایمنی AI در کاخ سفید امضا کردن، رسانهای شد — تضادی که از نگاهها دور نمونده. یه آژانس فدرال که داره تحقیق قانونی علیه همون شرکتهایی باز میکنه که تازه قرار گذاشتن داوطلبانه خودشون رو تنظیم کنن، نشونهی اینه که حداقل FTC تعهدات داوطلبانه رو جایگزین تکالیف قابل اجرا نمیدونه. این ماجرا همزمان با بستهی قوانین اشتغال AI که کالیفرنیا تازه امضاش کرده هم رسید و یه جبههی تنظیمی دوم اضافه کرد — اجرای قانون فدرال و قانونگذاری ایالتی — که شرکتهای AI الان باید هر دو رو با هم مدیریت کنن.
نه OpenAI و نه Anthropic جزئیاتی از نحوهی پاسخشون به درخواستهای اطلاعاتی FTC علنی نکردن. طبق گزارش CBS News، این تحقیق فعلاً ادعای تخلفی نمیکنه. خواستههای تحقیقاتی مدنی یه مرحلهی جمعآوری اطلاعات هستن که میتونن بدون هیچ اقدام اجرایی به پایان برسن. ولی همین خواستهها روشنترین سیگنالی هستن تا به حال که نشون میده تنظیمکنندههای فدرال، رفتار خودمختار ایجنتهای AI رو یه مسئلهی واقعی و جاری حمایت از مصرفکننده میدونن، نه یه خطر نظری برای آینده.
در ابتدا توسط CBS News گزارش شده است. برای جزئیات بیشتر مقالهٔ اصلی را بخوانید.
مشاهدهٔ منبع اصلی