OpenAI تطلق أداة مجانية للكشف عن CSAM مع NCMEC تُخفّض الإيجابيات الكاذبة إلى النصف

أطلقت OpenAI يوم الأحد مجموعة من أدوات حماية الأطفال، تشمل مُصنِّفاً جديداً للصور مصمَّماً للكشف عن مواد الاستغلال الجنسي للأطفال (CSAM) — بما فيها الصور المولَّدة بالذكاء الاصطناعي — ونظام تحذيرات داخل ChatGPT يعلِّق مؤقتاً حسابات المستخدمين الذين يحاولون إنشاء مثل هذا المحتوى أو الوصول إليه.
المُصنِّف الذي طُوِّر بالتعاون مع المركز الوطني للأطفال المفقودين والمستغَلين (NCMEC)، يُتاح مجاناً عبر API الشركة للمنظمات المختارة العاملة في مجال سلامة المحتوى. في الاختبارات الأولية مع الشركاء، علَّم المُصنِّف 48% أقل من الصور للمراجعة مع الحفاظ على نفس معدل الكشف عن الصور المسيئة. كما كانت الصور التي علَّمها أكثر احتمالاً مرتين لاحتوائها على مواد إساءة.
تحذيرات ChatGPT والتعليق
يرى المستخدمون الذين يحاولون الوصول إلى مثل هذا المحتوى تنبيهاً ويُوجَّهون إلى موارد دعم متخصصة، وتُعلَّق حساباتهم لمدة 24 ساعة. الانتهاكات المتكررة قد تؤدي إلى الإزالة الدائمة.
السياق: ضغوط متزايدة على شركات الذكاء الاصطناعي
يأتي هذا الإصدار في وقت تواجه فيه OpenAI دعاوى قضائية نشطة تتعلق بالضرر المحتمل للقاصرين. يمثل هذا الإجراء تحولاً من الضمانات الداخلية نحو بنية تحتية يمكن لمنظمات أخرى دمجها.
وردت في الأصل عن TechCrunch. اقرأ المقال الأصلي لمزيد من التفاصيل.
عرض المصدر الأصلي