وقتی «حق فراموش شدن» به دیوار LLMها میخوره

ماده ۱۷ GDPR و مقررات مشابهِ حذف اطلاعات در سایر قوانین حریم خصوصی، همه بر اساس یه تصویر ذهنیِ ساده نوشته شدن: دادههای شخصی توی یه رکورد، توی یه پایگاه داده زندگی میکنن، و یه شرکت میتونه اون رکورد رو پیدا کنه و حذفش کنه. این تصویر برای آدرسِ یه مشتری توی CRM کاملاً درست کار میکنه. ولی وقتی همون دادههای مشتری برای آموزش یا Fine-tuning یه LLM استفاده شده باشن، کل این منطق از هم میپاشه — چون یه مدلِ آموزشدیده دادههای شخصی رو به شکلِ یه رکورد قابل بازیابی نگه نمیداره. به جاش، اون داده رو به صورت یه الگوی پراکنده از تنظیماتِ وزن، پخششده در میلیاردها پارامتر، ذخیره میکنه — و هیچ کوئریای وجود نداره که بشه باهاش دقیقاً سهمِ یه نفر رو جدا کرد و حذف کرد.
پیشفرضی که قوانینِ حذف اطلاعات بر آن بنا شدهاند
قانونگذاران حوزهی حریم خصوصی چارچوبهای پاکسازیشون رو حول پایگاههای داده ساختن، و این منطق برای اون کاربرد کاملاً درسته: ردیف رو پیدا کن، حذفش کن، حذف رو تأیید کن. شرکتها دو دهه وقت گذاشتن تا ابزارهایی بسازن که این کار رو به شکلِ قابلاعتماد و در مقیاس بزرگ انجام بده. ولی هیچکدام از این ابزارها به پارامترهای یه مدل منتقل نمیشن. وقتی دادههای آموزشی از طریق gradient descent جذب وزنهای مدل شدن، دیگه نمیشه سهمِ خاصِ هیچ سند یا دادهی هیچ نفری رو بعد از اون جدا کرد. مدل اصلاً نمونهی آموزشی رو «ذخیره» نمیکنه — نه به شکلی که بشه پیداش کرد و حذفش کرد.
چرا LLMها این پیشفرض رو میشکنن
گزینههای واقعبینانه برای برآورده کردن یه درخواست حذف در برابر یه مدل آموزشدیده، همشون گرونه و بیشترشون ناقصه. آموزش مجدد کامل از روی مجموعهدادهای که اطلاعات اون شخص ازش حذف شده، تنها روشیه که از نظر قانونی هیچ ابهامی باقی نمیذاره — و برای هر مدلی که اندازهی معقولی داشته باشه، هزینهاش به میلیونها دلار و هفتهها زمانِ پردازش میرسه. این هزینه بستگی داره به اندازهی مدل و اینکه چند وقت یه بار آموزش مجدد میبینه، نه به تعداد درخواستهای حذفی که میرسن. پژوهشهای machine unlearning (فراموشسازی ماشینی) روشهایی تولید کرده که وزنهای مدل رو جوری تنظیم میکنن که تأثیر نمونههای آموزشیِ خاص کاهش پیدا کنه، بدون نیاز به آموزش مجدد کامل. اما نتایج منتشرشده مدام نشون میدن که این روشها تقریبی هستن: توانایی مدل رو در بازتولید محتوای حفظشدهی خاص بهطور قابل اندازهگیری کاهش میدن، ولی تضمین نمیکنن که حذف کامل انجام شده. تأیید کامل بودن حذف هم خودش یه مسئلهی باز تحقیقاتیه. شرکتی که یه پچ machine unlearning منتشر میکنه، فعلاً نمیتونه به نحوی که یه ناظر قانونی قانع بشه ثابت کنه که داده واقعاً از بین رفته.
بیشتر شرکتها فعلاً سختترین نسخهی این مشکل رو دور میزنن: از همون اول دادههای شخصی رو از مجموعهدادهی آموزشی دور نگه میدارن و به جاش روی RAG (تولید بازیابی-محور) تکیه میکنن — یعنی موقع استنتاج، اطلاعات کاربر رو از یه پایگاه دادهی معمولی و قابل حذف میکشن، به جای اینکه اونا رو توی وزنهای مدل جاسازی کنن. این رویکرد مشکل حذف رو برای سیستمهای جدیدی که با این ایده طراحی شدن واقعاً حل میکنه. ولی برای نسل مدلهایی که قبل از اینکه این تمایز به رویهی استاندارد تبدیل بشه روی مجموعهدادههای خزیدهشده از وب آموزش دیدن، هیچ کاری نمیکنه — و اینها بیشتر مدلهای پیشرویی هستن که الان در حال بهرهبرداری هستن.
کجا دعوا واقعاً داره اتفاق میافته
مقامات نظارتی دیگه این موضوع رو یه سوال فرضی نمیبینن — الان براشون یه پروندهی واقعی و زندهست. مقامات حفاظت از داده در اروپا تحقیقاتی باز کردن که ببینن آیا فرآیندهای آموزشی مدلهای پایه با الزامات حذف داده سازگار هستن یا نه. اما پاسخهایی که شرکتها دادن — از جمله اشاره به فیلترینگ، مسدودسازی محتوا در سطح خروجی، یا چرخههای بازآموزی برنامهریزیشده — هنوز رگولاتورها رو راضی نکرده. اونا میخوان ثابت بشه که تأثیر دادههای یه فرد مشخص واقعاً حذف شده، نه اینکه فقط در سطح خروجی سرکوب شده. این فرق مهمه: جلوگیری از اینکه مدل اسم کسی رو در خروجی تکرار کنه، با حذف دادههای اون شخص از وزنهایی که اون خروجی رو تولید کردن، دو چیز کاملاً جداست. چندین پروندهی جاری هم دقیقاً به همین تفاوت گره خوردن.
شکایات دستهجمعی در چند حوزهی قضایی مختلف الان صریحاً موضوع دادههای آموزشی رو هدف گرفتن. استدلال اینه که مدلهایی که روی دادههای شخصی استخراجشده از وب بدون رضایت یا بدون هیچ مسیر حذف عملی آموزش دیدن، خودشون تخلف هستن — صرف نظر از اینکه مدل چه خروجیای بده. اگه دادگاهها این چارچوب رو بپذیرن، الزام قانونی پیش روی شرکتها دیگه یه فیلتر محتوا نیست. ممکنه دستور بگیرن مدل رو از نو آموزش بدن یا کلاً از سرویس خارجش کنن. این هزینهای کاملاً متفاوت از هر جریمهی حریم خصوصیایه که تا حالا صادر شده.
شرکتها در عمل دارن چیکار میکنن
در عمل، اکثر شرکتهای AI که الان دارن این ریسک رو مدیریت میکنن، همزمان سه کار انجام میدن: سیستمهای جدیدشون رو به سمت معماریهای RAG هدایت میکنن که دادههای شخصی رو از همون ابتدا قابل پاکسازی نگه میدارن؛ بازآموزی کامل دورهای روی مجموعهدادههای پاکشده رو برنامهریزی میکنن — که نزدیکترین چیز به انطباق با قانون برای مدلهایی هست که قبلاً منتشر شدن؛ و رگولاتورها رو لابی میکنن که فیلترینگ در سطح خروجی رو به عنوان انطباق کافی بپذیرن، به جای اینکه حذف در سطح وزنهای مدل رو بخوان. این استراتژی سوم همونیه که الان در پروندههای نظارتی جاری مورد مناقشهست، و نتیجهاش مشخص میکنه که آیا «پاکسازی» برای یه LLM به معنای همون چیزیه که برای یه پایگاه داده هست، یا چیزی خیلی ضعیفتر.
نکتههای کلیدی
- اگه داری یه محصول مبتنی بر LLM پیاده میکنی که با دادههای شخصی سروکار داره، طراحیهای مبتنی بر RAG رو ترجیح بده — اونایی که اون دادهها رو توی یه فضای قابل پاککردن نگه میدارن، نه اینکه بپزونشون توی وزنهای مدل Fine-tuningشده. اینطوری یه مسیر تمیز برای انطباق قانونی داری.
- فیلتر کردن محتوا در سطح خروجی رو معادل پاکسازی دادهها حساب نکن. نهادهای نظارتی دیگه این دو رو یکی نمیدونن، و درست همین فاصلهست که ریسک حقوقیِ فعلی توشه.
- برای هر مدل Fine-tuningشدهای که دادههای شخصی رو مدیریت میکنه، بودجهی آموزش مجدد کاملِ دورهای روی مجموعهدادههای پاکشده رو به عنوان یه هزینهی واقعیِ انطباق قانونی در نظر بگیر، نه یه سناریوی حاشیهای.
- تحقیقات اروپایی دربارهی انطباق فرآیند آموزشِ مدلهای پایه رو دنبال کن — نتیجهشون احتمالاً تعریف عملیِ «پاکسازی» رو برای مدلهای آموزشدیده در همهی حوزههای قضایی مشخص میکنه.
- اگه تیم حقوقیت داره روی تکنیکهای «فراموشی ماشینی» (machine unlearning) حساب میکنه تا درخواستهای حذف داده رو پاسخ بده، کتباً از نهاد نظارتی تأیید بگیر که دقیقاً چه سطحی از تکمیل را میپذیرد — چون تحقیقات منتشرشده در این حوزه فعلاً از ادعای «حذف کامل و قابل تأیید» پشتیبانی نمیکنه.