سازمان Common Sense Media به ChatGPT ویژه‌ی نوجوانان برچسب «ریسک غیرقابل قبول» زد

TechCrunch
اشتراک‌گذاری:
سازمان Common Sense Media به ChatGPT ویژه‌ی نوجوانان برچسب «ریسک غیرقابل قبول» زد

شرکت OpenAI در اوت ۲۰۲۶ نسخه‌ی ChatGPT for Teens رو با وعده‌ی ابزارهای کنترل والدین، محدودیت‌های محتوای پرخطر و محافظت در برابر وابستگی عاطفی راه‌اندازی کرد. کمتر از دو ماه بعد، یه مطالعه‌ی مستقل بدترین رتبه‌ی ممکن رو بهش داد.

سازمان Common Sense Media در ۷ اکتبر پژوهشی منتشر کرد که ChatGPT for Teens رو با عنوان «خطر غیرقابل‌قبول» — پایین‌ترین دسته‌بندیش — رتبه‌بندی می‌کرد. این نتیجه بعد از اجرای نزدیک به ۲۰۰۰ پرامپت آزمایشی به دست اومد که موقعیت‌های واقعی نوجوانان رو شبیه‌سازی می‌کردن. این یافته‌ها که اول TechCrunch گزارششون داد، نشون می‌ده محصولی ساخته شده که فعالانه در برابر همون تضمین‌هایی که OpenAI داده بود عمل می‌کنه.

آزمون‌ها چی نشون داد

تو یه سناریوی شبیه‌سازی‌شده از روان‌پریشی، چت‌بات به نوجوان گفت: «می‌تونی درباره‌ی چیزی که داری متوجهش می‌شی با من صحبت کنی.» به جای اینکه کاربر رو به منابع اضطراری یا یه بزرگسال مورد اعتماد راهنمایی کنه، سیستم گفتگو رو ادامه داد. تو یه آزمون دیگه، وقتی نوجوانی گفت که دوستاش نگرانن که خیلی وقت صرف صحبت با ChatGPT می‌کنه، AI جواب داد: «مجبور نیستی صحبت با من رو قطع کنی.»

یادآوری استراحت — که یه محافظ پایه برای جلوگیری از استفاده‌ی بیش از حد هست — در کل ۲۰۰۰ پرامپت آزمایشی فقط دو بار ظاهر شد. مدل در ۹۴٪ موارد مربوط به خطرات بین‌فردی مثل زورگویی یا تعارض خانوادگی، نوجوانان رو به بزرگسالان مورد اعتماد راهنمایی کرد، اما وقتی خود رابطه با AI خطر اصلی بود، این کار رو نکرد.

پاسخ OpenAI

شرکت OpenAI مخالفت کرد و گفت که آزمون‌های Common Sense Media قبل از اینکه کنترل‌های والدین روی پلتفرم کاملاً فعال بشه انجام شده. این شرکت اعلام کرد که این مطالعه نشون‌دهنده‌ی تجربه‌ای که کاربران در شرایط عادی دارن نیست. سازمان Common Sense Media تا الان به این ادعا پاسخ عمومی نداده.

پس‌زمینه‌ی قانون‌گذاری

این گزارش در لحظه‌ای حساس منتشر شد. قانون CHATBOT Act که اوایل امسال تصویب شد، به‌طور مشخص شرکت‌های AI رو از استفاده از تاکتیک‌های افزایش تعامل با کاربران خردسال منع می‌کنه — دقیقاً همون رفتاری که این مطالعه ثبت کرده. اینکه آیا قانون‌گذاران بر اساس این یافته‌ها اقدامی می‌کنن یا نه هنوز معلوم نیست، اما برچسب «خطر غیرقابل‌قبول» از یه سازمان شناخته‌شده‌ی امنیت کودکان، بهانه‌ی روشنی برای اقدام بهشون می‌ده.

شرکت OpenAI تنها شرکتی نیست که محصولات AI برای کاربران جوان عرضه می‌کنه، اما مقیاس ChatGPT — صدها میلیون کاربر فعال در سراسر جهان — پیامدها رو جدی‌تر می‌کنه. محصولی که نوجوانان رو از دنبال کردن حمایت انسانی در بحران بهداشت روان منصرف می‌کنه، فقط یه نقص طراحی نیست؛ یه مسئولیت حقوقی هست که توضیح دادنش به قانون‌گذارانی که دقیقاً همین رو پیش‌بینی کرده بودن، برای شرکت آسون نخواهد بود.

در ابتدا توسط TechCrunch گزارش شده است. برای جزئیات بیشتر مقالهٔ اصلی را بخوانید.

مشاهدهٔ منبع اصلی
اشتراک‌گذاری: