كاشف الصور الجديد بالذكاء الاصطناعي من Meta يفشل في رصد 55% من صور التزييف العميق الخاصة به بعد قصها

أداة الكشف عن الصور المولدة بالذكاء الاصطناعي التي عرضتها Meta مؤخرًا تتعرف بشكل صحيح على كل صورة ينتجها مولد Muse Image الخاص بها — إلى أن يتم اقتصاص تلك الصورة. وجد تحليل أجرته Reuters ونُشر في 10 يوليو أن الأداة تحققت من أن جميع الصور الـ40 الأصلية المولدة بالذكاء الاصطناعي هي صور اصطناعية، لكنها فشلت في التعرف على 55% من نفس الصور على أنها مولدة بالذكاء الاصطناعي بمجرد اقتصاصها إلى ما يقرب من ثلث إلى نصف حجمها الأصلي.

كشفت Meta عن أداة الكشف جنبًا إلى جنب مع Muse Image، أحدث مولد صور يعمل بالذكاء الاصطناعي لديها، والمبني حول نظام علامات مائية غير مرئية يُدعى Content Seal يتم تضمينه في كل صورة ينتجها النموذج. وقد صرحت Meta أن العلامة المائية مصممة لتحمل التعديلات الشائعة — الاقتصاص، الضغط، تغيير الحجم، وحتى لقطات الشاشة — لكن الشركة اعترفت لـ Reuters أن الإشارة يمكن أن تُفقد بشكل خاص عند اقتصاص الصورة بشدة.

لماذا يؤدي الاقتصاص إلى تعطيل أداة الكشف

تقوم أنظمة العلامات المائية غير المرئية مثل Content Seal عادةً بتشفير إشارة عبر بيانات البكسل للصورة بأكملها. يؤدي الاقتصاص الكبير إلى إزالة أجزاء واسعة من بيانات البكسل تلك، وإذا لم يكن التشفير متكررًا بما يكفي لتحمل فقدان ثلثي الإطار، فقد لا يحمل الجزء المتبقي ما يكفي من الإشارة الأصلية للتسجيل كمطابقة. هذا قيد هيكلي، وليس خللًا خاصًا بهذا الإصدار — لكنه بالضبط نوع التعديل الذي سيلجأ إليه أي شخص يرغب في إزالة الإسناد من صورة مولدة بالذكاء الاصطناعي، سواء كان يفعل ذلك عن عمد أو ببساطة يقوم بقص صورة لمنشور على وسائل التواصل الاجتماعي بالطريقة التي يفعلها معظم الناس بالفعل.

لماذا هذا مهم أبعد من مجرد عرض منتج واحد

وضعت Reuters النتيجة في سياق “عام انتخابي مزدحم يشمل انتخابات التجديد النصفي في الولايات المتحدة” — وهي فترة تكتسب فيها القدرة على وضع علامات موثوقة على الصور المولدة بالذكاء الاصطناعي المتداولة عبر الإنترنت أهمية أعلى من المعتاد. كان مجلس الرقابة التابع لـ Meta قد دعا الشركة بالفعل في مارس إلى معالجة ما وصفه بانتشار المحتوى الخادع المولد بالذكاء الاصطناعي على منصاتها. إن أداة كشف يمكن لجهة خبيثة مصممة هزيمتها بقص بسيط لا تفعل الكثير لسد هذه الفجوة، حتى مع قيام المنصات بشكل متزايد بالإشارة إلى أدوات وضع العلامات المائية والتتبع كإجابتها على المعلومات المضللة المدفوعة بالذكاء الاصطناعي.

كما تأتي هذه الحادثة في توقيت محرج لـ Meta نظرًا للتوقيت: ظهرت قيود أداة الكشف في نفس الأسبوع الذي اضطرت فيه الشركة إلى سحب ميزة أخرى منفصلة وغير مرتبطة في Muse Image — وهي ميزة تتيح للمستخدمين إنشاء صور تشير إلى حسابات عامة على Instagram دون موافقة صاحب الحساب — بعد ردود فعل عنيفة من المستخدمين ووكالات المواهب بما في ذلك CAA.

ما تقوله Meta الآن

لم تعلن Meta عن إصلاح أو جدول زمني له، وما زالت تصف أداة الكشف على أنها معاينة وليست منتجًا نهائيًا. هذا الإطار يمنح الشركة مساحة للتطوير، ولكنه يعني أيضًا أنه في الوقت الحالي، تحمل الأداة الرئيسية التي تقدمها Meta للتحقق من صورها المولدة بالذكاء الاصطناعي بقعة عمياء معروفة ومعلنة يمكن لأي مستخدم تفعيلها بعملية قص عادية.

وكما أوردت Reuters، تؤكد النتيجة على مشكلة صناعية أوسع: الكشف عن الصور المولدة بالذكاء الاصطناعي المعتمد على العلامات المائية لا يكون موثوقًا إلا بقدر أضعف حالة تعديل، والاقتصاص هو أحد أكثر التعديلات شيوعًا التي تخضع لها الصورة على الإنترنت.