تنذر الوتيرة المتسارعة لسباق الذكاء الاصطناعي مخاوف الكثير من الخبراء الذين يعتقدون أن المرحلة القادمة قد تشهد استغلال أدوات الذكاء الاصطناعي لإيذاء النساء في المقام الأول عن طريق انتاج فيديوهات جنسية مزيفة وغير واقعية. وبحسب تقرير من أسوشيتد برس فإن الخوف يكمن من تطور تقنية Deepfake أو التزييف العميق التي يتم بواسطتها انتاج مقاطع فيديو وصور تم إنشاؤها رقميًا أو تعديلها باستخدام الذكاء الاصطناعي أو التعلم الآلي.
وبدأت المواد الإباحية التي تم إنشاؤها باستخدام تقنية Deepfake بالانتشار لأول مرة عبر الإنترنت منذ عدة سنوات عندما شارك أحد مستخدمي تطبيق Reddit مقاطع وضعت وجوه العدد من المشاهير الإناث على أكتاف الممثلين الإباحيين.
وذكر تقرير سابق صادر عن شركة مراقبة الوسائط الرقمية Sensity، أن تقنية التزييف العميق DeepFake، استخدمت لنشر أكثر من 1400 مقطع فيديو إباحي مزيف تم نشره عبر الإنترنت، وأوضح أن عدد مقاطع الفيديو المزيفة على الإنترنت يتضاعف تقريبا كل ستة أشهر.
وعلى الرغم من أنه تم تطوير تقنية التزييف العميق DeepFake، لصناعة السينما أو الإعلان، ولكن يشير تقير آخر ل Sensity، أن ما بين 90% إلى 95% من جميع مقاطع الفيديو المزيفة على الإنترنت هي مواد إباحية، وحوالي 90٪ تشمل النساء.
وتشكل مقاطع التزييف العميق تهديدًا متزايدًا في جميع أنحاء العالم، حيث إنه وفقًا ل Gartner ستنفق الشركات ما يقرب من 188 مليار دولار على حلول الأمن السيبراني لمواجهتها، وفي الوقت الحالي، تتطلب تطبيقات الكشف عادةً تحميل مقاطع فيديو للتحليل وقد تستغرق النتائج ساعات.
وفقا ل أسوشيتد برس فإنه منذ ذلك الحين ، نشر منشئو محتوى التزييف العميق مقاطع فيديو وصورًا مماثلة تستهدف المؤثرين عبر الإنترنت والصحفيين وغيرهم من أصحاب الملفات الشخصية العامة، حيث توجد آلاف مقاطع الفيديو عبر عدد كبير من مواقع الويب.
وقد قدم البعض للمستخدمين الفرصة لإنشاء صورهم الخاصة - مما يسمح أساسًا لأي شخص بالقيام بعمل مقاطع فيديو مفبركة بناء على تخيلات جنسية ، كما أن استخدام هذه التقنية يفتح الباب للانتقام من الأشخاص من خلال هذه الطريقة.
