«إعلان الحرب على المحتوى المُزيف»..«أوبن آيه آي» تطلق أول أداة لكشف صور الذكاء الاصطناعي

نعيش في عالمنا الحالي بعدم ثقة في أيًا من الصور المنتشرة حولنا، سواء بمواقع التواصل الاجتماعي، أو المواقع الإلكترونية، نظرًا لانتشار أدوات الذكاء الاصطناعي التوليدي، واستخدامها من قبل الجميع، وعليها أصبحت مسألة التحقق من صحة المحتوى عبر الإنترنت أكثر صعوبة. فقد أصبح بإمكان أي شخص إنشاء صور أو تسجيلات مزيفة لأشخاص بسهولة، ما هدد كثيرًا بانتشار المعلومات المُضللة والتضليل.
«OpenAI» تطلق أول أداة لكشف صور الذكاء الاصطناعي
وعلى هذا الأساس أطلقت شركة «OpenAI» «أوبن آيه آي» أول أداة لكشف صور الذكاء الاصطناعي، للمساعدة في مكافحة هذه الظاهرة، وهي عبارة عن أداة جديدة تتيح للباحثين رصد أي صور رقمية مُبتكرة بواسطة الذكاء الاصطناعي.
«أوبن آيه آي» أوضحت أن البرنامج الجديد يمكنه تحديد الصور التي تم إنشاؤها باستخدام أداة «دال إي 3» بدقة تصل إلى 98%.
ومع ذلك، أشارت الشركة إلى أن هذه الفعالية قد تنخفض إذا تم تعديل الصور بعد إنشائها أو إذا كانت من إنتاج نماذج أخرى للذكاء الاصطناعي. وقد بينت التجارب الداخلية أن أقل من 0.5% من الصور الأصلية نُسبت بشكل خاطئ إلى كونها منتجة بالذكاء الاصطناعي.
وهو ما اعتبره الكثير من المستخدمين خطوة هامة في مكافحة انتشار المحتوى المُزيّف عبر الإنترنت. لذا دعت «OpenAI أوبن آيه آي» الشركات والمؤسسات للانضمام إليها في مكافحة المحتوى المُزيّف وحماية مستخدمي الإنترنت من المعلومات المُضللة.
ميزات الأداة الجديدة من «OpenAI»
جاءت مميزات الأداة الجديدة بناءً على بيان الشركة كالتالي:
* كشف صور الذكاء الاصطناعي بدقة عالية: تتمتع الأداة بدقة تصل إلى 98٪ في رصد الصور المُبتكرة بواسطة أداة «دال إي 3» من «أوبن آيه آي».
* تقليل مخاطر المحتوى المُزيّف: تساهم الأداة في الحد من انتشار الصور المُزيفة التي قد تُستخدم لأغراض ضارة مثل الاحتيال.
* الامتثال لمعايير التحالف من أجل مصدر المحتوى وأصالة البيانات الرقمية (C2PA): تلتزم «أوبن آيه آي» بوضع علامات على الصور المُبتكرة بواسطة الذكاء الاصطناعي، بما يتماشى مع معايير C2PA.
وكانت أعلنت شركة «ميتا» في الشهر الماضي، أنها ستبدأ اعتبارًا من مايو بتطبيق معايير التحالف في تصنيف المحتوى المُبتكر بواسطة الذكاء الاصطناعي، وهو ما يمثل خطوة كبيرة نحو تعزيز الأمان الرقمي والثقة في المحتوى المنشور عبر منصاتها مثل فيسبوك وإنستغرام.
هذه الخطوات تُظهر التزام «أوبن آيه آي» والصناعة بأكملها بتعزيز الشفافية والأمان في استخدام تقنيات الذكاء الاصطناعي، في ظل تزايد القلق حول الاستخدامات المحتملة لهذه التكنولوجيا في نشر المعلومات المضللة والمحتوى المزيف.