الفائز بتحدي فيسبوك Deepfake Detection يسجل دقة 65.18%

أعلن فيسبوك عن أسماء الفائزين في تحدي Deepfake Detection Challenge الذي تبلغ تكلفته 1 مليون دولار، وهو مسابقة لنماذج الذكاء الاصطناعي لاكتشاف مقاطع الفيديو المزيفة العميقة التي تقلد الأشخاص الحقيقيين بشكل مقنع.
ومع ذلك، نظرًا لأن النموذج الفائز حقق معدل دقة بنسبة 65.18%، يبدو أن هناك الكثير من العمل الذي يجب القيام به قبل أن نعتمد على مثل هذه الخوارزميات لتحديد محتوى مزيف.
مع أكثر من 2000 مشارك، شهدت المسابقة أكثر من 35000 من نماذج الذكاء الاصطناعي التي تحاول اكتشاف عمليات التعمق من مجموعة بيانات الصندوق الأسود التي تحتوي على 100000 مقطع فيديو.
وبحسب ما ورد استعان Facebook بأكثر من
3000 ممثل لإنشاء مقاطع الفيديو هذه حيث تم تسجيلهم وهم يجرون محادثات في بيئات طبيعية.
تم تغيير بعض هذه المقاطع من خلال لصق وجوه الممثلين الآخرين باستخدامهم للذكاء الاصطناعي، وتم منح المشاركين حق الوصول إلى هذه البيانات لتدريب خوارزمياتهم.
عندما تم اختبار نماذج الذكاء الاصطناعي على هذه المادة، أنتجت معدلات دقة تصل إلى 82.56%، ومع ذلك عندما تم اختبار نفس الخوارزميات مقابل مجموعة بيانات الصندوق الأسود من اللقطات غير المرئية، انخفض أدائها بشكل ملحوظ مع تحقيق أفضل نموذج تسجيل درجات بمعدل دقة 65.18%.
مخاوف بشأن أشرطة الفيديو deepfake
هناك مخاوف متزايدة بشأن إساءة استخدام التزييفات العميقة، والتي يمكن أن تضع الكلمات في فم أي شخص كما هو واضح في الفيديو العميق المزيف الذي ينتجه Buzzfeed، هنا، تُفرض كلمات الكوميدي والكاتب والمخرج جوردان بيل على الرئيس الأمريكي آنذاك أوباما.
حظرت تطبيقات الوسائط الاجتماعية مقاطع الفيديو المزيفة على منصاتها، في الوقت الحالي، على الرغم من أن التأثيرات السياسية لمقاطع الفيديو العميقة كانت ضئيلة، إلا أن استخدامها في إنشاء مواد إباحية غير توافقية بدأ بالفعل في إحداث ضوضاء، لحسن الحظ، من السهل التعرف على المحتوى الإباحي وإزالته من منصات وسائل التواصل الاجتماعي.
وفقًا للتقارير، يعمل Facebook حاليًا على تطوير تقنية الكشف عن لأخبار المزيفة وهي بالفعل تهديد لمنصات التواصل الاجتماعي، ولهذا السبب يريدون أن يكونوا مستعدين بأدوات يمكنها اكتشاف مقاطع فيديو مزيفة عندماتظهر.