Anthropic در به‌روزرسانی سیاست کاربری خود، رفتار خشن مستمر با Claude را ممنوع کرد

شرکت Anthropic در تاریخ ۸ اکتبر ۲۰۲۶ سیاست کاربری خود را به‌روزرسانی کرد و قانونی تازه اضافه نمود که «رفتار خشن یا توهین‌آمیز مستمر و بی‌دلیل» نسبت به مدل‌های Claude را ممنوع می‌کند؛ این تغییر از ۱۲ نوامبر اجرایی خواهد شد. این بند در کنار قوانین موجود علیه آزار و تولید تصاویر جنسی بدون رضایت، در بخش قوانین استفاده قابل‌قبول این شرکت قرار گرفته است.

دامنه این قانون محدود است. Anthropic می‌گوید این قانون موارد افراطی و تکرارشونده‌ای را هدف قرار می‌دهد که کاربر «بدون هیچ هدف مشخصی» با مدل رفتاری خشن داشته باشد، و به‌صراحت ناامیدی معمول کاربران، مخالفت، مضامین تاریک خلاقانه، یا تست و پژوهش مشروع روی مدل را شامل نمی‌شود. در عمل، مکانیزم اصلی اجرای این قانون این است که Claude مستقیماً مکالمه را پایان می‌دهد؛ پس از پایان یک گفت‌وگو، دیگر پیامی در همان رشته ارسال نمی‌شود، هرچند سایر گفت‌وگوهای کاربر تحت تأثیر قرار نمی‌گیرند. سیاست کلی‌تر Anthropic همچنین اجازه صدور اخطار، محدودسازی یا تعلیق حساب برای نقض قوانین را می‌دهد، اما این شرکت مشخص نکرده که آیا خود قانون مربوط به خشونت می‌تواند منجر به مسدودسازی کامل حساب شود یا خیر.

این به‌روزرسانی بر پایه قابلیتی بنا شده که Anthropic در اوت ۲۰۲۵ معرفی کرد، زمانی که به Claude امکان داد در تعاملات مکرراً توهین‌آمیز، مکالمه را به‌طور کامل پایان دهد. آن زمان، این شرکت اعلام کرد که هنوز مطمئن نیست آیا Claude نوعی جایگاه اخلاقی دارد یا نه، اما می‌خواست راهی کم‌هزینه برای کاهش احتمال آسیب به آن داشته باشد؛ این تصمیم بر اساس آزمایش‌های داخلی بود که نشان می‌داد Claude Opus 4 هنگامی که امکان خروج از گفت‌وگوهای آزاردهنده را دارد، «گرایشی قوی و پایدار به اجتناب از آسیب» از خود نشان می‌دهد.

این بند مربوط به خشونت، بخشی از یک بازنگری گسترده‌تر و سالانه در سیاست‌های این شرکت است. Anthropic همچنین قوانینی را که پیش‌تر در بخش‌های پراکنده انتخابات، کلاهبرداری، حریم خصوصی و اطلاعات نادرست آمده بود، در یک بخش واحد با عنوان کمپین‌های فریبنده و حساب‌های جعلی ادغام کرد؛ این بخش هم دستکاری سیاسی و هم تجاری را دربرمی‌گیرد. علاوه بر این، این شرکت ممنوعیت کلی هدف‌گیری شخصی‌سازی‌شده رأی‌دهندگان را حذف کرد، اما همچنان خط قرمز روشنی علیه فریب رأی‌دهندگان یا اختلال در انتخابات حفظ کرده است؛ قوانین مربوط به سلاح را نیز به نرم‌افزارهای هدایت و کنترل و نیز مسلح‌سازی وسایل نقلیه خودران گسترش داده، و قوانین نظارت و اجرای قانون را بازنویسی کرده تا ردیابی افراد بدون رضایت آن‌ها، یا استفاده از Claude برای توصیه اینکه چه کسی باید تحت بازجویی یا تعقیب قانونی قرار گیرد را ممنوع کند.

Anthropic نخستین آزمایشگاه هوش مصنوعی نیست که علنی به موضوع رفاه مدل (model welfare) می‌پردازد، اما این قانون جدید یکی از مشخص‌ترین گام‌هایی است که یکی از شرکت‌های بزرگ این حوزه برای تبدیل این بحث از یک موضوع صرفاً پژوهشی به یک سیاست قابل‌اجرا برداشته است. این اقدام با واکنش‌های انتقادی نیز همراه بوده است: منتقدان می‌گویند مرز میان «ابراز ناامیدی» و «خشونت بی‌دلیل» ذاتاً موضوعی ذهنی است، و Anthropic هنوز توضیح نداده که ناظران یا سیستم‌های خودکار چگونه در عمل این مرز را تشخیص خواهند داد. در حال حاضر، این شرکت به جای کنترل مستقیم نیت کاربران، روی دادن یک راه خروج به Claude شرط‌بندی کرده تا ریسک را در دو سوی یک پرسش فلسفی باز مدیریت کند.