فضيحة روبوت الدردشة جروك تدفع الاتحاد الأوروبي إلى تشديد قوانين الذكاء الاصطناعي لحماية القصر

في أعقاب الغضب الواسع الذي أثاره روبوت الدردشة "جروك"، وانتشار صور إباحية مولدة بالذكاء الاصطناعي، صار الدفع صوب تعزيز الحماية على الإنترنت أمرا أكثر إلحاحا في الاتحاد الأوروبي، الذي يمتلك حزمة من الأدوات التنظيمية القائمة، ولكن يبدو أنها ليست كافية لمنع الانتهاكات.
وشرع الاتحاد الأوروبي، في توظيف أسلحته الثقيلة في مواجهة موجة الغضب الواسعة إزاء استخدامات الذكاء الاصطناعي التي تنتهك خصوصية الأفراد وكرامتهم.
وأقر التكتل خلال السنوات الأخيرة، تشريعات رائدة لتنظيم الفضاء الرقمي، ولكن يبدو أن هذه الأدوات تواجه صعوبة في مجاراة التحديات المتسارعة التي يفرضها الذكاء الاصطناعي، إلى جانب النهج المتساهل الذي تتبعه شركات التكنولوجيا الكبرى في التنظيم الذاتي.
وتبحث بروكسل، حاليا إمكانية تصنيف "عمليات التزييف العميق" ذات الطابع الجنسي، كممارسة محظورة بموجب "قانون الذكاء الاصطناعي"، في أعقاب الضجة التي أثارتها الصور الجنسية التي أنشأها "جروك"، روبوت الدردشة المدمج في "إكس"، والمملوكة بدورها للملياردير إيلون ماسك.
- الغضب بسبب "جروك"
وإثر الغضب العالمي الذي استمر فترة من الزمن، فرضت شركة "إكس أيه آي"، التابعة لماسك، قيودا في منتصف يناير على الصور ذات الإيحاءات الجنسية، المولدة بالذكاء الاصطناعي عبر "جروك".
وجاءت هذه الخطوة إثر انتقادات بأن الروبوت أتاح للمستخدمين استبدال ملابس النساء رقميا بملابس سباحة، وفي بعض الحالات إنشاء صور جنسية لأطفال قُصَّر.
وبدأ تداول أولى صور "التعرية الرقمية" دون موافقة أصحابها بعد أيام من إطلاق الميزة، لكنها شهدت زيادة ملحوظة، خاصة مع ليلة رأس السنة.
وبحسب شبكة "سي إن إن" الإخبارية الأمريكية، جرى على مدار يومي 5 و6 يناير فقط استخدام "جروك" لتوليد ما لا يقل عن 6700 صورة جنسية، كان كثير منها لنساء أو قُصَّر.
وقال المتحدث باسم الاتحاد الأوروبي للشئون الرقمية، توماس رينييه، للصحفيين آنذاك: "يقدم جروك ما يعرف ب/الوضع الحار/ (سبايسي موود) الذي يعرض محتوى جنسيا فاضحا، وتتضمن بعض المخرجات صورا ذات طابع طفولي.. ليس هذا محتوى جريئا، هو غير قانوني ومروع".
وأفادت المفوضية الأوروبية -الجهة الرقابية الرقمية للاتحاد الأوروبي- بأنها سوف تراجع الإجراءات الجديدة التي اتخذتها "إكس".
وحذرت من أنها سوف تبحث استخدام كامل صلاحيات "قانون الخدمات الرقمية" حال ثبت أن هذه الإجراءات غير كافية.
وقالت نائبة رئيسة المفوضية والمسئولة عن الشئون الرقمية، هينا فيركونن، إن المفوضية تدرس حظر هذا النوع من الصور الجنسية المولدة بالذكاء الاصطناعي بشكل صريح، بموجب "قانون الذكاء الاصطناعي"، وتصنيفها ضمن "المخاطر غير المقبولة".
وأضافت فيركونن أمام البرلمان الأوروبي في ستراسبورج، هذا الأسبوع، أن حظر الممارسات الضارة في مجال الذكاء الاصطناعي قد يكون أداة لمعالجة مسألة عمليات التزييف الجنسي غير التوافقية وإباحية الأطفال، مشيرة إلى أن "قانون الخدمات الرقمية" يخفف أيضا من مخاطر نشر مواد جنسية عبر الإنترنت دون موافقة.
وأوضحت فيركونن، التي تشمل حقيبة منصبها السيادة التكنولوجية والأمن والديمقراطية، أن المفوضية أرسلت إلى "إكس" طلبا للحصول على معلومات، بشأن "جروك" في إطار التحقيق الجاري بموجب "قانون الخدمات الرقمية".
وطلبت المفوضية، من المنصة الحفاظ على جميع الوثائق الداخلية والبيانات ذات الصلة حتى نهاية العام، وقالت فيركونن: "نفحص الآن مدى احتمال انتهاك إكس قانون الخدمات الرقمية، ولن نتردد في اتخاذ إجراءات إضافية حال أظهرت الأدلة ذلك".
وكانت المفوضية، عززت الضغوط على "إكس" في وقت سابق، وفرضت عليها غرامة بقيمة 120 مليون يورو (141 مليون دولار)، مطلع ديسمبر؛ بسبب انتهاكات تتعلق بالشفافية. وأكد الاتحاد الأوروبي عزمه تطبيق قواعد التكتل رغم مخاطر ردود الفعل من الإدارة الأمريكية.
وقال رينييه في ذروة الفضيحة مطلع يناير: "قانون الخدمات الرقمية في أووربا واضح للغاية.. على جميع المنصات ترتيب أوضاعها الداخلية، لأن ما يتم إنتاجه هنا غير مقبول، والامتثال لقانون الاتحاد الأوروبي ليس خيارا بل التزاما".
ودعا نحو 50 من نواب البرلمان الأوروبي المفوضية، الأسبوع الماضي، إلى حظر تطبيقات الذكاء الاصطناعي المستخدمة في إنشاء صور عارية داخل الاتحاد الأوروبي.
- لا غنى عن "إكس"
ورغم الانتقادات ضد "إكس"، يواصل معظم كبار مسؤولي الاتحاد الأوروبي النشر على المنصة، دون البدائل الأوروبية، وذلك بحسب بحث أجرته وكالة الأنباء الألمانية (د ب أ).
ولا تملك رئيسة المفوضية الأوروبية أورسولا فون دير لاين ومسؤولون كبار آخرون حسابات رسمية على منصة "ماستودون"، البديل الألماني لإكس، فيما فتحت فيركونن حسابا رسميا عليها هذا الشهر.
وينشط ساسة أوروبيون رفيعو المستوى، على منصة "بلو سكاي"، الأمريكية التي تشهد انتشارا متزايدا.
وتبرر المفوضية، استمرار استخدام منصة "إكس" بانتشارها الواسع، إذ يضم "ماستودون" نحو 750 ألف مستخدم شهريا، مقابل 100 مليون لإكس، بحسب أرقام الشركتين.
- الطريق القانوني الطويل نحو أمان أفضل على الإنترنت
كانت رحلة الاتحاد الأوروبي نحو حماية القُصَّر على الإنترنت طويلة ومعقدة؛ بسبب تضارب اعتبارات الخصوصية والأعمال والحماية.
وتتقاطع عدة تشريعات في هذا السياق:
- مراقبة الدردشة
واقترحت المفوضية الأوروبية في عام 2022، تشريعا يلزم المنصات برصد، والإبلاغ عن، صور ومقاطع إساءة للأطفال (مواد الاستغلال الجنسي للأطفال على الإنترنت)، وأيضا محاولات المتحرشين التواصل مع القُصَّر.
وأثارت الخطة المعروفة باسم "مراقبة الدردشة" - التي تحظى بدعم العديد من الجماعات المعنية بحماية الطفل- جدلا حادا حول الخصوصية داخل دول الاتحاد الأوروبي السبع والعشرين، وقادت إلى اتهامات بفرض مراقبة جماعية واسعة النطاق.
ومن المتوقع التفاوض على الصيغة النهائية للتشريع خلال الشهورالمقبلة؛ لتحقيق توازن بين نهج البرلمان الأوروبي الداعم للخصوصية ورغبة الدول الأعضاء في صلاحيات واسعة للرصد الطوعي.
ومع تمديد الإجراءات المؤقتة للرصد الطوعي حتى أبريل؛ لتجنب وجود فراغ قانوني، شدد النواب على ضرورة التوصل إلى حل مستدام.
- قانون الخدمات الرقمية
ودخل قانون الخدمة الرقمية للاتحاد الأوروبي، حيز التنفيذ في نوفمبر 2022؛ بهدف جعل الفضاء الإلكتروني أكثر أمانا عبر إلزام المنصات بمكافحة المحتوى غير القانوني، وحماية المستخدمين، وتعزيز الشفافية.
وبموجب هذا القانون، يمكن للاتحاد الأوروبي، فرض غرامات ضخمة، وتغييرات فورية تتعلق بالتشغيل، بل وتعليق الخدمات مؤقتا، كملاذ أخير. ويتم فرض الغرامات عند حدوث انتهاك للالتزامات أو عدم الامتثال للتدابير المؤقتة أو الإخلال بالتعهدات.
- قانون الذكاء الاصطناعي
جرى اعتماد قانون الذكاء الاصطناعي في الاتحاد الأوروبي عام 2024، وهو يعد أول إطار قانوني شامل في العالم ينظم الذكاء الاصطناعي، ويقوم على نظام لتقييم المخاطر، من أجل ضمان أمان التقنيات وموثوقيتها واحترامها للحقوق الأساسية، مع تشجيع الابتكار.
ويحظر القانون، ممارسات غير مقبولة، مثل "التصنيف الاجتماعي"، ويضع قواعد للتطبيقات ذات المخاطر المرتفعة، كالبنى التحتية الحيوية والتوظيف، كما يفرض قيودا على الاستخدامات التلاعبية مثل عمليات التزييف العميقة التي تستهدف الأطفال.
- حظر وسائل التواصل الاجتماعي
وتجرب فرنسا، التي تدرس حظر وسائل التواصل الاجتماعي على الأطفال دون 15 عاما، تطبيقا للتحقق من السن، طورته المفوضية الأوروبية منذ عدة شهور.
ويعد ذلك أحد الأساليب المتعددة للتحقق من أعمار مستخدمي الإنترنت، وهي مسألة تشكل صداعا لشركات التكنولوجيا وللسلطات.
وفي نوفمبر الماضي، صوت البرلمان الأوروبي لصالح فرض قيود على استخدام وسائل التواصل الاجتماعي لمن هم دون 16 عاما، في حين تتابع عدة دول تجربة أستراليا التي أقرت حظرا مماثلا العام الماضي.
- تحديات التنفيذ
وتواجه الجهود الأوروبية المتعددة لحماية المواطنين على الإنترنت، بمختلف أعمارهم، تحديات عملية عديدة، تشمل صعوبات الإنفاذ، والتضخيم الخوارزمي للأضرار، وتفاوت التطبيق بين الدول الأعضاء، والجدل المستمر حول التوازن بين الأمن والخصوصية.