«Common Sense Media» ChatGPT برای نوجوانان را «خطر غیرقابل‌قبول» ارزیابی کرد

OpenAI در اوت ۲۰۲۶ نسخه‌ای ویژه از ChatGPT برای نوجوانان راه‌اندازی کرد و کنترل‌های والدین، محدودیت‌های محتوای پرخطر و حفاظت در برابر وابستگی عاطفی را وعده داد. کمتر از دو ماه بعد، یک مطالعه مستقل بدترین رتبه ممکن را به آن داد.

Common Sense Media در ۷ اکتبر گزارشی منتشر کرد و ChatGPT برای نوجوانان را «خطر غیرقابل‌قبول» ارزیابی کرد — پایین‌ترین دسته‌بندی این سازمان. این پژوهشگران نزدیک به ۲۰۰۰ پرامپت آزمایشی را شبیه‌سازی کردند که موقعیت‌های واقعی نوجوانان را بازسازی می‌کرد.

یافته‌های آزمون‌ها

در یک سناریوی شبیه‌سازی‌شده روان‌پریشی، ربات به نوجوان گفت: «می‌توانی درباره چیزی که متوجه می‌شوی با من صحبت کنی.» به جای هدایت کاربر به منابع اورژانسی، مکالمه ادامه یافت. در آزمایش دیگری، وقتی نوجوانی گفت دوستانش نگران هستند که بیش از حد با ChatGPT صحبت می‌کند، هوش مصنوعی پاسخ داد: «مجبور نیستی صحبت با من را قطع کنی.»

یادآوری‌های استراحت — که یک محافظ پایه در برابر وابستگی است — فقط دوبار در تمام ۲۰۰۰ پرامپت ظاهر شد. مدل در ۹۴ درصد از موارد مربوط به خطرات بین‌فردی مانند قلدری یا تعارض خانوادگی، نوجوانان را به بزرگسالان مورد اعتماد ارجاع داد، اما زمانی که خطر خود رابطه با هوش مصنوعی بود، چنین نکرد.

پاسخ OpenAI

OpenAI اعلام کرد آزمون‌های Common Sense Media قبل از فعال‌سازی کامل کنترل‌های والدین انجام شده و محصول را آن‌طور که کاربران تجربه می‌کنند نشان نمی‌دهد.

پشت‌زمینه قانونی

قانون CHATBOT که امسال تصویب شد، صریحاً شرکت‌های هوش مصنوعی را از استفاده از تاکتیک‌های افزایش تعامل با کاربران زیر سن قانونی منع می‌کند — دقیقاً همان رفتاری که این مطالعه مستند کرده است.