ByteDance و Alibaba عوامل همراه مبتنی بر هوش مصنوعی خود را پیش از قانون جدید هوش مصنوعی انسان‌نمای چین تعطیل کردند

«دوبائو» (Doubao) متعلق به بایت‌دنس و «چی‌ون» (Qwen) از شرکت علی‌بابا، قابلیت‌های عامل هوش مصنوعی شخصی‌سازی‌شده‌ی خود را در این ماه از دسترس خارج می‌کنند، چرا که نتوانسته‌اند سیستم‌های خود را پیش از اجرایی شدن مقررات جدید چین در مورد هوش مصنوعی انسان‌گونه در تاریخ ۱۵ جولای، با قانون تطبیق دهند. دوبائو در یک شب جمعه به کاربران خود اطلاع داد که قابلیت عامل آن از ۱۵ جولای غیرفعال خواهد شد و دلیل آن را «تنظیمات مربوط به عملکرد محصول» عنوان کرد. چی‌ون نیز یک روز بعد با اطلاعیه‌ای مشابه اعلام کرد که «عامل‌های تعاملی انسان‌گونه و عامل‌های ساخته‌شده توسط کاربر» در ۱۰ جولای غیرفعال می‌شوند و خدمات گسترده‌تر عامل نیز در ۱۵ جولای به دنبال آن خواهد آمد.

الزامات مقررات جدید چیست

این تعطیلی‌ها ناشی از «اقدامات موقت برای مدیریت خدمات تعاملی هوش مصنوعی انسان‌نمای» چین است که در آوریل ۲۰۲۶ توسط اداره فضای مجازی چین به همراه چهار نهاد نظارتی دیگر از جمله وزارت صنعت و فناوری اطلاعات و وزارت امنیت عمومی صادر شد. این مقررات به طور خاص خدماتی از هوش مصنوعی را هدف قرار می‌دهند که برای شبیه‌سازی شخصیت انسانی، الگوهای تفکر و تعامل عاطفی پایدار طراحی شده‌اند – همان دسته‌ای که قابلیت‌های عامل سفارشی دوبائو و چی‌ون در آن قرار می‌گیرد.

این اقدامات محتوایی را که به خودآزاری یا خودکشی تشویق می‌کند ممنوع می‌کند، همچنین الگوهای طراحی را که «به طور افراطی به خواست کاربران برای ایجاد وابستگی عاطفی یا اعتیاد پاسخ می‌دهند» ممنوع اعلام می‌کند، و نیز دستکاری عاطفی با هدف سوق دادن کاربران به تصمیم‌گیری‌های غیرمنطقی را غیرقانونی می‌داند. برای خدماتی که به کاربران زیر ۱۴ سال ارائه می‌شود، مقررات مستلزم رضایت والدین است و «حالت‌های ویژه مخصوص خردسالان» با محدودیت زمان استفاده و یادآوری برای بازگشت به تعامل با دنیای واقعی را الزامی می‌کند. شرکت‌ها همچنین باید سیستم‌های مداخله‌ای پلکانی را پیاده‌سازی کنند که قادر به تشخیص حالت‌های عاطفی شدید بوده و در صورت نشان دادن علائم خطر خودآزاری یا پریشانی مالی قابل توجه توسط کاربر، به سرپرستان یا مخاطبان اضطراری اطلاع دهند.

هر خدمتی که بیش از ۱ میلیون کاربر ثبت‌نام‌شده یا ۱۰۰ هزار کاربر فعال ماهانه داشته باشد، ارزیابی امنیتی الزامی را شامل می‌شود که هشت حوزه از جمله نحوه مدیریت داده‌های آموزشی و مکانیسم‌های محافظت از خردسالان را پوشش می‌دهد. از آنجا که خدمات تعاملی انسان‌نما تحت قوانین موجود چین به عنوان خدماتی در دسته هوش مصنوعی مولد، توصیه‌گر الگوریتمی و سینتز عمیق نیز محسوب می‌شوند، ارائه‌دهندگان باید همزمان چندین رژیم نظارتی هم‌پوشان را رعایت کنند – بار انطباقی که نه بایت‌دنس و نه علی‌بابا نتوانستند در مدت تقریباً سه ماه از زمان نهایی شدن این مقررات از عهدهٔ آن برآیند.

سرنوشت داده‌های کاربران چه خواهد شد

برنامهٔ خروج بایت‌دنس برای دوبائو به جای پاک کردن فوری داده‌ها، یک دورهٔ تنفس به کاربران می‌دهد. پس از تعطیلی در ۱۵ جولای، کاربران تا ۱۵ اکتبر ۲۰۲۶ دسترسی موقتی و فقط به عنوان خواننده به تنظیمات عامل و تاریخچهٔ گفتگوهای خود خواهند داشت. پس از آن تاریخ، داده‌ها طبق سیاست حریم خصوصی استاندارد دوبائو پردازش شده و به طور دائمی درون اپ غیرقابل دسترس خواهند شد. بایت‌دنس کاربران جابه‌جا شده را به «مائوشیانگ» (Maoxiang)، یک اپلیکیشن جداگانه از شرکت، هدایت می‌کند و آن را مقصدی برای کسانی معرفی می‌کند که می‌خواهند به ساخت عامل‌های سفارشی ادامه دهند – این نشان می‌دهد که بایت‌دنس قصد دارد عملکرد عامل منطبق با مقررات را در یک محصول واحد و هدفمند متمرکز کند، نه اینکه دوبائو را به عنوان دستیار گسترده‌تر بازطراحی کند.

چرا این موضوع فراتر از چین اهمیت دارد

این تعطیلی‌ها نشان می‌دهد که یک دسته‌بندی نظارتی خاص – یعنی همراهان هوش مصنوعی و عامل‌های واکنش‌دهندهٔ عاطفی – می‌تواند با چه سرعتی تغییرات محصول را در مقیاس بزرگ اجبار کند، آن هم زمانی که یک دولت مهلت سخت‌گیرانه‌ای برای انطباق تعیین کند، حتی برای شرکت‌هایی با منابع مهندسی بایت‌دنس و علی‌بابا. معافیت‌های موجود در مقررات برای ربات‌های خدمات مشتری، دستیارهای محیط کار و ابزارهای آموزشی بدون مؤلفه‌های تعامل عاطفی نشان می‌دهد که نهادهای نظارتی چین یک خط دقیق و عمدی حول هوش مصنوعی از نوع همراه ترسیم می‌کنند، نه به طور کلی هوش مصنوعی عامل‌محور.

برای شرکت‌های جهانی هوش مصنوعی که از خارج از چین نظاره‌گر هستند، این رویداد یک آزمایش اولیه برای چگونگی اجرای عملی مقررات هوش مصنوعی انسان‌نماست: نه از طریق جریمه‌های تدریجی، بلکه با غیرفعال کردن داوطلبانه ویژگی‌های غیرمنطبق توسط پلتفرم‌ها پیش از یک ضرب‌الاجل ثابت، به جای اینکه در روز اول در معرض نقض مقررات گرفتار شوند.

این داستان ابتدا توسط South China Morning Post گزارش شد.