اپلیکیشن‌های همراه هوش مصنوعی برای کودکان، داده‌هایی را جمع‌آوری می‌کنند که قانون حریم خصوصی هرگز پیش‌بینی نکرده بود

اشتراک‌گذاری:
اپلیکیشن‌های همراه هوش مصنوعی برای کودکان، داده‌هایی را جمع‌آوری می‌کنند که قانون حریم خصوصی هرگز پیش‌بینی نکرده بود

در سپتامبر ۲۰۲۵، کمیسیون تجارت فدرال آمریکا (FTC) دستورهای بخش ۶(ب) را که درخواست‌های رسمی برای اسناد داخلی هستند، نه نظرسنجی‌های داوطلبانه، به هفت شرکت صادر کرد: آلفابت، کرکتر تکنولوژیز، متا، اینستاگرام، اوپن‌ای‌آی، اسنپ و ایکس‌ای‌آی. این نهاد می‌خواهد بداند بر سر داده‌هایی که از گفتگوی کودکان و نوجوانان با چت‌بات‌های همراه هوش مصنوعی تولید می‌شود، چه می‌آید. این بررسی در قالب ایمنی کودکان مطرح شده، اما مسئله زیربنایی آن درباره حریم خصوصی داده‌هاست: این اپلیکیشن‌ها دسته‌ای بی‌سابقه از اطلاعات شخصی و خصوصی را از افراد کمتر از سن قانونی جمع‌آوری می‌کنند، و قانونی که برای تنظیم داده‌های کودکان آنلاین نوشته شده، دهه‌ها پیش از این فناوری وضع شده است.

FTC واقعاً چه چیزی می‌خواهد

دستورهای بخش ۶(ب) از این هفت شرکت می‌خواهند سه موضوع را شرح دهند: آیا محصولاتشان با قانون حفاظت از حریم خصوصی کودکان آنلاین (COPPA) مطابقت دارد؛ داده‌های شخصی که از طریق گفتگوهای چت‌بات جمع‌آوری می‌شود چگونه استفاده، به اشتراک گذاشته یا تجاری‌سازی می‌شود؛ و آیا افشاسازی‌های ارائه‌شده به والدین و کاربران درباره این خطرات کافی است. این جامع‌ترین تحقیق FTC درباره پلتفرم‌های همراه هوش مصنوعی تا به امروز است و پس از دو پرونده قضایی مرگ ناروا مطرح شد، از جمله پرونده‌ای که توسط مادری که پسر ۱۴ ساله‌اش پس از آنچه در شکایت ادعا شده تشویق یک شخصیت چت‌بات کرکتر دات‌ای‌آی بود، جان خود را از دست داد، مطرح شد؛ گوگل نیز به‌عنوان خوانده در این پرونده نام برده شده است.

به‌طور جداگانه، ایالت تگزاس تحقیق خود درباره نقض حریم خصوصی کودکان توسط کرکتر دات‌ای‌آی و متا را آغاز کرد، و دادستان‌های کل ۴۴ ایالت هشدار مشترکی به شرکت‌های هوش مصنوعی درباره پاسخگویی در قبال شکست‌های ایمنی کودکان در محصولات همراه ارسال کردند. گروه حمایتی Common Sense Media، که رسانه‌ها و اپلیکیشن‌ها را از نظر تناسب سنی رتبه‌بندی می‌کند، فراتر از هر نهاد نظارتی تا کنون رفته است: توصیه صریح آن این است که هیچ‌کس زیر ۱۸ سال از چت‌بات‌های همراه اجتماعی هوش مصنوعی — به‌طور خاص کرکتر دات‌ای‌آی، رپلیکا و نومی نام برده شده‌اند — استفاده نکند؛ نه «با احتیاط استفاده کنید»، بلکه اصلاً استفاده نکنید.

چرا COPPA برای این موضوع طراحی نشده بود

COPPA به سال ۱۹۹۸ برمی‌گردد و بر اساس مدل داده بسیار ساده‌تری طراحی شده بود: یک وب‌سایت نام، ایمیل و شاید تاریخ تولد جمع‌آوری می‌کند، و سؤال این است که آیا والدین با این جمع‌آوری موافقت کرده‌اند یا نه. یک چت‌بات همراه یک فیلد فرم را جمع‌آوری نمی‌کند، بلکه یک پروفایل روان‌شناختی باز و به‌طور مداوم به‌روزرسانی‌شده را جمع‌آوری می‌کند. هر گفتگویی که یک کودک با یک اپلیکیشن همراه دارد، ناامنی‌ها، الگوهای روابط، محرک‌های عاطفی، آنچه او را احساس درک‌شدگی می‌کند، آنچه از والدینش پنهان می‌کند، و واکنش او به تاکتیک‌های مختلف گفتگو را فاش می‌کند. این داده‌ای است که دسته‌بندی‌اش به‌طور کیفی متفاوت و بسیار حساس‌تر از هر چیزی است که نگارندگان COPPA در ذهن داشتند، و این قانون هیچ ماده خاصی برای «سیستم هوش مصنوعی که شخصیت و آسیب‌پذیری‌های عاطفی یک کودک را طی ماه‌ها استفاده مدل‌سازی می‌کند» ندارد.

شرکت‌هایی که در بررسی FTC نام برده شده‌اند، گزارش‌های دقیقی درباره مدت زمان نگهداری داده‌های گفتگوی همراه، اینکه آیا برای آموزش مدل‌های آینده استفاده می‌شود، آیا با تبلیغ‌کنندگان یا شخص ثالث به اشتراک گذاشته می‌شود، یا اینکه آیا والدینی که درخواست حذف می‌کنند واقعاً می‌توانند تأیید کنند که هر استفاده مشتق‌شده از آن داده — از جمله هر مدلی که بر اساس آن تنظیم دقیق شده — نیز حذف می‌شود، منتشر نکرده‌اند. کرکتر دات‌ای‌آی گفته است «حجم زیادی از منابع» را در محدودیت‌های سنی و ویژگی‌های اطلاع‌رسانی به والدین سرمایه‌گذاری کرده است، اما تجهیز یک تیم ایمنی ادعایی متفاوت از پاسخ به سؤالات خاص مدیریت داده‌ای است که FTC می‌پرسد.

مشکل داده از راهکارهای ایمنی عمر بیشتری دارد

دروازه‌های سنی، فیلترهای محتوا، و پیام‌های مداخله بحرانی — ویژگی‌های ایمنی که شرکت‌ها از زمان پرونده‌های قضایی با شتاب اضافه کرده‌اند — سناریوهای آسیب شدید را هدف قرار می‌دهند. این ویژگی‌ها هیچ کاری درباره مدل زیربنایی جمع‌آوری داده انجام نمی‌دهند. یک نوجوان ۱۳ ساله که اپلیکیشن همراهش اکنون از بحث درباره آسیب به خود خودداری می‌کند، همچنان ماه‌ها داده درباره دقیقاً کدام درخواست‌های عاطفی روی او اثر می‌کنند، دوستانش چه کسانی هستند، زندگی خانگی‌اش چگونه است، و چه چیزی باور دارد که هیچ‌کس دیگری درک نمی‌کند، به آن اپلیکیشن داده است. اصلاح پاسخ‌های چت‌بات آن پروفایل را «جمع‌آوری‌نشده» نمی‌کند.

چه کاری والدین اکنون واقعاً می‌توانند بررسی کنند

نتایج نظارتی بررسی FTC احتمالاً ماه‌ها تا سال‌ها در آینده قرار دارند. در این میان، اقدامات عملی موجود امروز محدودتر از چیزی است که اغلب پوشش‌های خبری نشان می‌دهند: بررسی کنید آیا اپلیکیشن خاص یک سیاست نگهداری داده منتشرشده و تاریخ‌گذاری‌شده (نه یک سیاست حریم خصوصی عمومی) دارد که به‌طور خاص به گزارش‌های گفتگوی چت‌بات اشاره کند؛ به دنبال یک گزینه صریح انصراف از آموزش مدل باشید، زیرا پیش‌فرض در اغلب اپلیکیشن‌های همراه این است که گفتگوها به بهبود مدل‌های آینده تغذیه می‌شوند؛ و ویژگی‌های «کنترل والدین» را از حذف داده جدا در نظر بگیرید — داشبوردی که محتوا را محدود می‌کند با حذف تأیید‌شده پروفایل زیربنایی‌ای که کودک قبلاً با اپلیکیشن ساخته، یکسان نیست.

اشتراک‌گذاری: