ترند فيه سم قاتل.. ما هي مخاطر صناعة الصور بالذكاء الاصطناعي؟

أن تصنع صورة لنفسك بجانب نجمك المفضل في مشهد يبدو واقعية جدًا، أو أن تحمل نفسك وأنت صغيرًا أو حتى ترافق أحباء فارقوا الحياة في صور تجمعهم للمرة الأولى عبر الذكاء الأصطناعي، أمر يبدو في خارجه لطيف، لكن خلفه أزمة خفية في الخصوصية، شديدة الخطورة، وكأنك تدفع ثمن اللحظات البسيطة التي استمعت فيها بالصورة، ثمنًا أغلى بكثير وهو خصوصيتك وأمان معلوماتك التي تتحول لاحقًا إلى مواد لتدريب الذكاء الاصطناعي أو إعادة استخدامها بطرق لم نتخيلها.
سمٌّ رقمي في صورة جميلة
لم تعد الصورة مجرد ذكرى رقمية، بل بيانًا شخصيًا يُغذي نظامًا يتعلّم من وجوهنا وملامحنا وملابسنا وحتى من أحلامنا، فيقول دكتور ماركو ممدوح، أستاذ هندسة الحاسبات والذكاء الاصطناعي ل«المصري اليوم»، إنّ أي نموذج من نماذج الذكاء الاصطناعي يعتمد على نوعين من آليات التطوّر، أبرزها ما يُعرف ب«التعلّم الذاتي»، وهو النظام الذي يُمكّن الأداة من تحسين أدائها استنادًا إلى نتائج المحادثات والتفاعلات السابقة مع المستخدمين.
ويُضيف: «لهذا السبب نرى دائمًا تحذيرات مكتوبة داخل التطبيقات تقول لا تشارك معلوماتك الشخصية أو الأرقام السرية مع الذكاء الاصطناعي، ورغم أن المحادثة تبدو خاصة بين المستخدم والنظام، إلا أن الحقيقة أن النموذج يستفيد من محتواها في تطوير نفسه مرة أخرى».
ويُوضح «ممدوح» أنّ الأمر لا يقتصر على النصوص فحسب، بل يمتد إلى الصور الشخصية أيضًا، مشيرًا إلى أن «الذكاء الاصطناعي يجد في تلك الصور كنزًا ثمينًا، فهي مواد عالية الجودة لأشخاص حقيقيين يوافقون – عن غير قصد – على شروط الاستخدام التي تتضمن السماح بإعادة استخدام صورهم».
ويتابع موضحًا: «معظم المستخدمين لا يقرأون اتفاقيات الاستخدام الطويلة، فيضغطون على (موافق) مباشرة، دون إدراك أن تلك الموافقة تمنح الشركة حق استخدام صورهم لأغراض مختلفة قد تشمل التدريب أو إعادة النشر أو حتى التعديل عليها.»
هل تطبيق «جيميناي» تحديدًا يُعد خطرًا؟
بعد تصدر جيميناي الترند بأداة بنانا الجديدة أثيرت التساؤلات حول خطورة جيميناي على وجه التحديد وعنها يقول «ممدوح»، إنّ «جيميناي» ليس وحده في المشهد، بل هناك عشرات الأدوات المشابهة التي تعمل بنفس المبدأ، مُضيفًا أن أي نموذج أو موقع يستخدم وجه الإنسان لصناعة الصور أو دمجها أو تعديلها، فبنسبة كبيرة جدًا يتم إعادة استخدام هذه الصور لاحقًا، لأنّه لا توجد مجانية حقيقية في هذا المجال، فتكاليف تشغيل النماذج مرتفعة، والمقابل الذي تحصل عليه الشركات هو بيانات المستخدمين وصورهم الحقيقية التي يرفعونها بإرادتهم الكاملة».
هل الشركات تتعمّد الترويج لتلك الترندات؟
يُجيب أستاذ الذكاء الاصطناعي بإنّ الأمر مدروس بعناية، قائلًا «الحيل التسويقية متعددة، لكن كثيرًا من هذه النماذج صُمم أساسًا لتوليد هذا النوع من الصور بهدف جمع أكبر قدر ممكن من الصور الحقيقية. لذلك نعم، الشركات تستهدف الترويج لمثل هذه الترندات كحملات دعائية لتحقيق غايتها الأساسية، وهي تجميع الصور وامتلاك حقوق استخدامها.»
10 مخاطر خفية خلف صور الذكاء الاصطناعي
1. فقدان السيطرة على الهوية الرقمية:
الصور التي ترفعها يمكن أن تُستخدم لتحديد هويتك أو تدريب أنظمة تعرف الوجوه، دون علمك.
2. صناعة الDeepfake:
الصور الواقعية التي يحصل عليها الذكاء الاصطناعي تُستخدم في تطوير تقنيات التزييف العميق، ما يفتح الباب أمام استخدام صورك في مشاهد أو فيديوهات مزيفة.
3. انتهاك الخصوصية:
خوارزميات التحليل البصري يمكنها تحديد موقعك، ديكور منزلك، أو حتى الأشخاص الذين يظهرون معك في الصورة.
4. الموافقة غير الواعية:
شروط الاستخدام الطويلة التي يوافق عليها المستخدم تلقائيًا تمنح الشركات الحق في إعادة استخدام الصور لأغراض تجارية أو بحثية.
5. التسريب والاختراق:
أي قاعدة بيانات رقمية عرضة للاختراق، ما يعني أن صور المستخدمين يمكن أن تُسرّب أو تُباع على الإنترنت.
6. التأثير على المصداقية البصرية:
كل صورة تُرفع لتوليد محتوى جديد تجعل من الصعب تمييز الحقيقي من المزيف، ما يهدد الثقة بالصور في الفضاء الرقمي.
7. استغلال الصور تجاريًا:
بعض الشركات تبيع بيانات الصور إلى أطراف ثالثة لتدريب أنظمة أخرى أو لإعلانات موجهة.
8. استخدام الصور في حملات سياسية أو دعائية:
الصورة الشخصية يمكن أن تُدمج في مشهد أو إعلان دون علم صاحبها، فيصبح وجهه جزءًا من خطاب لم يختره.
9. مخاطر نفسية وهوية رقمية مشوّهة:
الإدمان على رؤية نسخ مثالية من الذات في الصور المعدلة قد يؤثر على صورة الجسد والثقة بالنفس.
10. انعدام المساءلة القانونية:
أغلب المنصات تعمل من خارج الحدود المحلية، مما يجعل ملاحقتها قانونيًا في حال إساءة استخدام الصور أمرًا شبه مستحيل.
نصائح للحفاظ على الأمان عند استخدام هذه الأدوات
يقدم ماركو ممدوح مجموعة من النصائح للحفاظ على الخصوصية والأمان في هذا الجانب قائلًا:
* تجنب رفع صور تحتوي على معلومات شخصية أو حساسة.
* قراءة وفهم شروط الاستخدام الخاصة بالأداة قبل مشاركة الصور.
* ضبط إعدادات الخصوصية وحذف الصور غير المرغوب فيها من خوادم الأداة إن أمكن.
* استخدام الترندات بشكل واعٍ، مع إدراك أن الصور قد تُعاد استخدامها مستقبلًا.