تشخیص‌دهنده جدید تصاویر هوش مصنوعی متا پس از برش، ۵۵٪ از دیپ‌فیک‌های خود را شناسایی نمی‌کند

ابزار تشخیص تصاویر هوش مصنوعی که متا به‌تازگی پیش‌نمایش آن را منتشر کرده، قادر است تمام تصاویر تولیدشده توسط مولد تصویر Muse Image خود را به‌درستی شناسایی کند — اما این موفقیت تنها تا زمانی ادامه دارد که آن تصویر برش نخورده باشد. تحلیلی از رویترز که در تاریخ ۱۰ ژوئیه منتشر شد نشان داد که این ابزار هر ۴۰ تصویر آزمایشی اصلی تولیدشده با هوش مصنوعی را به‌عنوان تصویر مصنوعی شناسایی کرد، اما نتوانست ۵۵٪ از همان تصاویر را پس از برش به حدود یک‌سوم تا یک‌دوم اندازه اصلی، به‌عنوان تولیدشده با هوش مصنوعی تشخیص دهد.

متا این ابزار تشخیص را هم‌زمان با Muse Image، جدیدترین مولد تصویر خود، معرفی کرد که پیرامون یک سیستم واترمارک نامرئی به نام Content Seal طراحی شده است. این واترمارک در تمام تصاویر تولیدشده توسط این مدل جاسازی می‌شود. متا اعلام کرده که واترمارک برای مقاومت در برابر ویرایش‌های رایج — مانند برش، فشرده‌سازی، تغییر اندازه و حتی اسکرین‌شات — طراحی شده است، اما این شرکت به رویترز اذعان کرد که این سیگنال به‌طور خاص زمانی که تصویر به شدت برش می‌خورد، از بین می‌رود.

چرا برش دادن تشخیص‌دهنده را مختل می‌کند

سیستم‌های واترمارک نامرئی مانند Content Seal معمولاً یک سیگنال را در سراسر داده‌های پیکسلی کل تصویر رمزگذاری می‌کنند. برش تهاجمی بخش بزرگی از آن داده‌های پیکسلی را حذف می‌کند و اگر رمزگذاری به اندازه کافی افزون (redundant) نباشد که بتواند از دست دادن دو‌سوم تصویر را تحمل کند، قطعه باقی‌مانده ممکن است دیگر حامل سیگنال کافی برای ثبت به‌عنوان یک تطابق نباشد. این یک محدودیت ساختاری است، نه یک اشکال خاص در این انتشار — اما دقیقاً همان نوع ویرایشی است که هر کسی که قصد حذف نسبت از یک تصویر تولیدشده با هوش مصنوعی را داشته باشد، اولین بار به سراغ آن می‌رود، چه این کار را عمداً انجام دهد و چه صرفاً برای یک پست در شبکه‌های اجتماعی عکس را برش دهد، همان‌طور که اکثر مردم معمولاً انجام می‌دهند.

چرا این موضوع فراتر از یک پیش‌نمایش محصول اهمیت دارد

رویترز این یافته را در چارچوب «یک سال انتخاباتی شلوغ که شامل انتخابات میاندوره‌ای آمریکا است» قرار داد — دوره‌ای که در آن توانایی علامت‌گذاری مطمئن تصاویر تولیدشده با هوش مصنوعی که در فضای آنلاین دست‌به‌دست می‌شوند، اهمیت بیشتری از حد معمول دارد. هیئت نظارت متا (Oversight Board) پیش‌تر در ماه مارس از این شرکت خواسته بود تا به آنچه «تکثیر محتوای فریبنده تولیدشده با هوش مصنوعی» در پلتفرم‌های خود توصیف کرده بود، رسیدگی کند. ابزار تشخیصی که یک بازیگر مخرب مصمم بتواند با یک برش ساده آن را دور بزند، کمکی به بستن این شکاف نمی‌کند، به‌ویژه در شرایطی که پلتفرم‌ها به طور فزاینده‌ای به ابزارهای واترمارک و احراز منشأ به‌عنوان راه‌حل خود برای اطلاعات نادرست مبتنی بر هوش مصنوعی اشاره می‌کنند.

این اتفاق همچنین از نظر زمان‌بندی برای متا ناخوشایند است: محدودیت‌های تشخیص‌دهنده در همان هفته‌ای آشکار شد که این شرکت مجبور شد یک ویژگی جداگانه و نامرتبط دیگر از Muse Image را حذف کند — ویژگی‌ای که به کاربران اجازه می‌داد بدون رضایت صاحب حساب، تصاویری با ارجاع به حساب‌های عمومی اینستاگرام تولید کنند — که این اقدام پس از واکنش منفی کاربران و آژانس‌های استعدادیابی از جمله CAA صورت گرفت.

متا اکنون چه می‌گوید

متا هنوز راه‌حلی یا جدول زمانی برای آن اعلام نکرده است و همچنان ابزار تشخیص را به‌عنوان یک پیش‌نمایش توصیف می‌کند، نه یک محصول نهایی. این چارچوب‌بندی به شرکت فرصت تکرار و بهبود می‌دهد، اما در عین حال به این معناست که در حال حاضر، ابزار اصلی که متا برای تأیید تصاویر هوش مصنوعی خود ارائه می‌دهد، یک نقطه کور شناخته‌شده و آشکارشده دارد که هر کاربری می‌تواند با یک برش معمولی آن را فعال کند.

به گزارش رویترز، این یافته بر یک مشکل گسترده‌تر در صنعت تأکید می‌کند: تشخیص مبتنی بر واترمارک هوش مصنوعی تنها به اندازه ضعیف‌ترین حالت ویرایش آن قابل اعتماد است، و برش دادن یکی از رایج‌ترین ویرایش‌هایی است که یک تصویر در فضای آنلاین تجربه می‌کند.