فى تحليل جديد.. مركز «معلومات الوزراء» يستعرض مخاطر التزييف العميق

أصدر مركز المعلومات ودعم اتخاذ القرار بمجلس الوزراء تحليلاً جديداً تناول من خلاله تقنية التزييف العميق، وذلك بدءًا من زيادة اعتماد المستخدمين على تقنيات الذكاء الاصطناعى، ثم الانتقال إلى مفهوم التزييف العميق، وكيف تعمل هذه التقنية، واستخدامات التزييف العميق، والمخاطر الناجمة عنها، وطرق الكشف عنها.
وأوضح التحليل أن استخدام مجالات التكنولوجيا المختلفة- مثل الحوسبة السحابية والذكاء الاصطناعى والأمن السيبرانى- أصبح أمرًا مهمًّا فى كل مناحى الحياة، بما فى ذلك الاتصالات، والصناعة، والتجارة، والتعليم، والطب، والترفيه، وغيرها.
وعلى الرغم من أهمية استخدام التكنولوجيا والفوائد المترتبة عليها، فإنها يقابلها العديد من التحديات التى تتعلق بحفظ الخصوصية، والبيانات المزيفة، ومن بين هذه التحديات استخدام تقنيات التزييف العميق؛ حيث فرضت هذه التقنيات تحديات جديدة تتعلق بالأمان والخصوصية والمصداقية.
وذكر المركز أن زيادة اعتماد المستخدمين على تقنيات الذكاء الاصطناعى تعكس التطور السريع فى مجال التكنولوجيا وتأثيره العميق فى حياتنا اليومية. هذه الزيادة تعكس الثقة المتزايدة فى القدرات التى يمكن أن يوفرها الذكاء الاصطناعى فى تحسين الكفاءة وتبسيط العمليات فى مختلف المجالات.
وفى هذا الإطار، فقد بلغ عدد الأشخاص الذين يستخدمون أدوات الذكاء الاصطناعى عالميًّا نحو 254.8 مليون مستخدم عام 2023، أى أكثر من الضعف مقارنة بعام 2020. ومن المتوقع أن يستمر هذا النمو فى عدد مستخدمى أدوات الذكاء الاصطناعى، ليتجاوز 700 مليون بحلول 2030.
وأضاف التحليل أن تقنية التزييف العميق هى تقنية تقوم على صنع صور أو مقاطع فيديو مزيفة باستخدام البرامج الرقمية والتعلم الآلى وتبديل الوجه. وتعتمد هذه التقنية على دمج الصور لإنشاء لقطات جديدة تصور أحداثًا أو تصريحات أو أفعالًا لم تحدث فى الواقع. ومع ذلك هناك صعوبة فى معرفة وتحديد مدى صحة أو واقعية هذه الصور والفيديوهات.
وبناءً على ذلك، أصبح الاعتقاد بتوثيق الصوت والفيديو للواقع بأنه دليل على مصداقية البيانات والمعلومات، اعتقاد يشوبه الشك، فقد استغل مجرمو الإنترنت هذه التقنيات فى زيادة القدرات الاحتيالية، والتى أصبحت تمثل تهديدات جديدة على مستوى الأفراد والمؤسسات والمجتمعات، سواء من خلال تصنيع المواد الإباحية للتشهير بشخص معين بغرض الانتقام أو الابتزاز، أو من خلال تصنيع ونشر البيانات والتصريحات والمعلومات المضللة لأغراض إثارة الفوضى والاحتيال المالى وإفساد الانتخابات وخلق الأزمات الدبلوماسية.
وأشار التحليل إلى اختلاف أنواع تقنيات التزييف العميق، والتى يمكن أن تقع فى إحدى الفئات الآتية:
1- المحتوى المرئى: حيث يتم استخدام تقنيات التزييف العميق فى إنشاء الصور ومقاطع الفيديو، ويمكن أن يتم ذلك من خلال الآتى:
- تبديل الوجه: يتم تركيب الوجه غير الحقيقى على الرأس المستهدف فى الصور أو مقاطع الفيديو التى يتم تبديل الوجه بها.
- صور يتم إنشاؤها بالكامل: يتم إنشاء الوجه الجديد بالكامل من البداية ليبدو واقعيًّا بدلًا من تبديل الوجه.
- مقاطع فيديو مزامنة الشفاه: هى مقاطع تظهر شخصًا يؤدى كلمات أو نصًا معينًا بالتزامن مع حركات الشفاه لجعل الأمر يبدو واقعيًّا، وذلك على الرغم من عدم وجود هذا النص فى الفيديو الرئيس.
2- المحتوى الصوتى: ويتم تحريف الصوت وتعديله، إما من خلال استخدام ملف صوتى يتضمن حديثًا مزيفًا بنفس صوت الشخص، لكنه لم يقله فى الواقع، أو من خلال تعديل نبرة صوت الشخص لإظهار مشاعر أو سلوك غير حقيقى.
وأشار التحليل إلى أن إنشاء فيديوهات التزييف العميق يتم باستخدام نظامين من أنظمة الذكاء الاصطناعى؛ المولد «Generator» والمميز «Discriminator». عندما ينتج نظام المولد فيديو جديدًا، يُرسل إلى نظام المميز لتحديد ما إذا كان الفيديو حقيقيًّا أم مزيفًا. إذا تأكد المميز من أن الفيديو حقيقى، يبدأ المولد فى تعلم كيفية إنشاء فيديوهات تبدو أكثر قابلية للتصديق، وهكذا يستمر التطور فى العملية.
هذا، ويُشكل النظامان معًا ما يُعرف بشبكة الخصومة التوليفية «GNN»، وتتطلب هذه التقنية مخزونًا من الفيديوهات يتم التعديل عليها. فى البداية، يحتاج نظام المولد «Generator» إلى تدريب مستمر. وعندما يصل إلى مستوى مقبول من الجودة، يبدأ بإرسال فيديوهاته إلى المميّز «Discriminator». كلما زاد ذكاء المولد، زاد ذكاء المميّز بالتبعية. وبالتالى، يتم الوصول إلى فيديو معدّل بشكل كامل وقابل للتصديق للعين البشرية. ويوضح الشكل التالى كيفية عمل هذه التقنية.
وقد استعرض التحليل الاستخدامات الإيجابية التى تمتلكها تقنية التزييف العميق، وفيما يلى أهم هذه الاستخدامات:
- الاستخدامات الطبية والتعليمية: يمكن استخدام تقنية التزييف العميق لإنشاء عمليات محاكاة تفاعلية للعمليات الجراحية أو غيرها من الإجراءات، مما يوفر لطلاب الطب والمهنيين فرص تدريب قيمة. كما يمكن استخدام هذه التقنيات فى دعم وتطوير أدوات الوصول المهمة. على سبيل المثال، قامت شركة Lyrebird الكندية باستخدام التزييف العميق لمساعدة مرضى التصلب الجانبى الضمورى على التواصل عندما يفقدون قدرتهم على التحدث، وذلك من خلال استنساخ أصواتهم، حيث يمكن للأشخاص الاستمرار فى «التحدث» من خلال تقنيات التزييف العميق.
- صناعة الترفيه: يمكن استخدام تقنيات التزييف العميق فى صناعة الأفلام والإعلانات وتقديم الأخبار. كما يمكن إنشاء تأثيرات خاصة أكثر واقعية والسماح للممثلين بإعادة تمثيل أدوارهم حتى بعد وفاتهم.
- الصحافة: يمكن أن تساعد تقنية التزييف العميق فى إعادة إنشاء الأحداث التاريخية وجذب الانتباه إلى القضايا المهمة. فعلى سبيل المثال، يحاكى مشروع «التعاطف العميق Deep Empathy»- مشروع مشترك بين اليونيسف ومعهد ماساتشوستس للتكنولوجيا- الشكل الذى ستبدو عليه المدن الأخرى إذا واجهت صراعات مماثلة لتلك الموجودة فى الأحياء السورية أثناء الحرب. تهدف هذه الصور الاصطناعية لنيويورك ولندن وبوسطن وغيرها من المدن التى دمرتها نفس الظروف المزعزعة للاستقرار إلى إثارة التعاطف مع الضحايا الحقيقيين فى جميع أنحاء العالم فى سوريا أو مناطق أخرى.
- خدمة العملاء: من خلال خدمة المساعد الافتراضى، الذى يستخدم لتقديم خدمة العملاء فى مراكز الاتصال.
كما أبرز التحليل أهم مخاطر تطبيق تقنيات التزييف العميق فيما يلى:
- التسبب فى أزمات سياسية: يمكن أن تُستخدم تقنيات التزييف العميق فى التضليل السياسى.
- تهديدات أمنية: تعد تكنولوجيا التزييف العميق بمثابة سلاح جديد قادر على التأثير فى كل الأشياء، من أسعار البورصة حتى الانتخابات. فقد أصبحت هذه التقنية قادرة على استخراج الكلمات والتصريحات المثيرة من رجال الأعمال والسياسيين. ومن أشكال هذه التهديدات الأمنية: فبركة تصريحات مسيئة لسياسيين، أو خلق مشاهد كاذبة لأحداث عنف أو اعتداء، أو التأثير فى أسهم الشركات والأعمال من خلال خلق صور وتصريحات مفبركة لمديرى هذه الشركات.
- الابتزاز الإلكترونى: يمكن فبركة مقاطع فيديو من خلال عرض شخصيات فى الفيديو غير موجودة فى الأصل، ويمكن استخدامها للتسبب فى مشكلات للضحايا.
- توافر برامج وتقنيات التزييف العميق: يتم ذلك من خلال انتشار البرامج المستخدمة لتقنية التزييف العميق أو المواقع المنشأة حديثًا لهذا الغرض، وهو ما سهل من استخدام هذه التقنيات وانتشارها.
- صعوبة اكتشاف التزييف العميق: على الرغم من أنه يمكن لأى شخص استخدام تقنيات التزييف العميق، فإنه من الصعوبة اكتشاف التزييف العميق، إلا فى حالة توافر برامج خاصة للكشف عنه.
- تسهيل عمليات الاحتيال: يتم التلاعب بالأفراد للقيام بأشياء ضارة، على سبيل المثال مشاركة المعلومات السرية.
- فقدان الثقة والتشكيك فى المصداقية: بالطبع فى حالة نشر أى مقطع فيديو أو صور على شبكة الإنترنت، سيتساءل الأفراد عن مدى مصداقية هذه الصور والفيديوهات، وبالتالى التشكيك فى صحة كل الصور والفيديوهات حتى الحقيقى منها.
- التأثير فى الانتخابات: حيث تستخدم تقنية التزييف العميق لتشويه صورة بعض السياسيين للتأثير فى سير العملية الانتخابية لصالح طرف معين أو أيديولوجية محددة، وذلك من خلال خلق فيديوهات يتم بث إشاعات من خلالها عن أحد المرشحين، وتزييف الوعى أثناء الانتخابات.
وأضاف التحليل أنه مع تطور تقنيات التزييف العميق يقابلها أيضًا تطور فى طرق الكشف عن التزييف العميق. وفيما يلى أهم خمس طرق للكشف عن التزييف العميق:
- منصة Sentinel: يتم السماح للمستخدمين بتحميل الوسائط الرقمية من خلال موقع الويب الخاص بهم، ثم يتم تحليلها تلقائيًّا للتعرف على مدى صحة هذه الوسائط. ويتم فى هذا الصدد استخدام خوارزميات الذكاء الاصطناعى المتقدمة لتحليل الوسائط التى تم تحميلها وتحديد ما إذا كان قد تم التلاعب بها.
- كاشف التزييف العميق من إنتل فى الوقت الحقيقى «FakeCatcher»: تُمكن هذه التقنية من اكتشاف مقاطع الفيديو المزيفة بمعدل دقة يبلغ 96٪، مما يؤدى إلى إرجاع النتائج فى أجزاء من الثانية. وتعمل هذه التقنية من خلال ما يعرف بتدفق الدم، حيث إنه عند تحدث الشخص فى أى مقطع فيديو يتغير لون العروق نتيجة لتدفق الدم من القلب، لذا يتم جمع إشارات تدفق الدم هذه من جميع أنحاء الوجه وتقوم الخوارزميات بترجمة هذه الإشارات إلى خرائط زمانية مكانية، ويتم بعد ذلك اكتشاف مدى مصداقية الفيديو.
- نحن نتحقق «WeVerify»: حيث يتم تحليل الوسائط الاجتماعية ووضعها فى سياق النظام البيئى الأوسع على شبكة الإنترنت، كما أنه يعتمد على قاعدة بيانات عامة قائمة على blockchain للمزيفات المعروفة.
- أداة مصادقة الفيديو من Microsoft: يمكن من خلال هذه الأداة تحليل مقطع فيديو أو صورة ثابتة، ويتم ذلك من خلال تحليل عناصر التزييف العميق والعناصر الرمادية الدقيقة التى لا يمكن اكتشافها بالعين البشرية وذلك بشكل فورى.
- استخدام عدم التطابق Phoneme-Viseme: تستغل هذه التقنية حقيقة أن البصمات، التى تشير إلى ديناميكيات شكل الفم، تكون أحيانًا مختلفة أو غير متوافقة مع الصوت المنطوق. ويعد هذا التناقض عيبا فى التزييف العميق. لذا تعتمد هذه التقنية على خوارزميات متقدمة للذكاء الاصطناعى لتحليل الفيديو واكتشاف التناقضات.
وأوضح التحليل، فى ختامه، أن التزييف العميق يظهر بوصفه تقنية مثيرة للجدل تجمع بين الإبداع الفنى والتحديات الأخلاقية والأمنية. رغم فوائد استخدامه فى العديد من المجالات، مثل الفن والتسلية والتعلم والطب، فإن القلق الأساسى يبقى حول استخدامه فى التلاعب بالمعلومات والتأثير فى الرأى العام. لذا، يتطلب الأمر تحديد وتطوير استراتيجيات مبتكرة لمواجهة هذه التحديات بشكل فعّال، سواء عبر تطوير تقنيات الكشف عن التزييف، أو تعزيز الوعى الجماهيرى بمخاطره. فى نهاية المطاف، يبقى التوازن بين التقدم التكنولوجى والحفاظ على الأمان والنزاهة واحدًا من أهم التحديات التى تواجهنا فى عصر التزييف العميق.