«GROK» يعرى النساء والأطفال على منصة «X»

الذكاء الاصطناعى يتجاوز الخطوط الحمراء

فى وقت تتسابق فيه منصات التواصل الاجتماعى على دمج الذكاء الاصطناعى داخل خدماتها، تفجرت أزمة جديدة حول «جروك» أو GROK وهى أداة الذكاء الاصطناعى الخاصة بتطبيق «X» أو تويتر سابقًا، وذلك بعد تداول تقارير عن قدرة جروك على توليد صور عارية والمساعدة فى نشرها أو تسهيل تداولها. الجدل الذى أثاره جروك ليس جدلًا تقنيًا بل أخلاقيًا وقانونيًا يتعلق بمسئولية المنصات ومدى جاهزية القوانين لمواجهة مثل هذه التجاوزات التى تتجاوز أنماط الرقابة التقليدية.
نساء فى مرمى «التعرية الرقمية»
على منصة «X»، جرى توثيق حالات متعددة طلب فيها مستخدمون من روبوت الدردشة «جروك» إزالة الملابس رقميًا عن صور نساء حقيقيات، أو وضعهن فى ملابس سباحة وأوضاع ذات طابع جنسى، دون أى موافقة مسبقة.
ورغم أن سياسة الاستخدام المقبول لدى شركة «XAI» تحظر «تصوير أشباه الأشخاص بطريقة إباحية»، فإن التطبيق العملى كشف فجوات خطيرة تمثلت فى انتشار صور ومقاطع تحمل طابعًا جنسيًا، وتسجيل سابقةٍ اتُّهم فيها «جروك» بإنتاج مقطع جنسى صريح للمغنية الأمريكية «تايلور سويفت».
الأطفال الضحايا الجدد
لم يتوقف الاستغلال عند النساء فحسب، إذ صدر تحذير عن «مؤسسة مراقبة الإنترنت» البريطانية (IWF)، التى أكدت اكتشاف صور جنسية وعارية الصدر لفتيات تتراوح أعمارهن بين 11 و13 عامًا تم توليدها باستخدام أداة «جروك»، مصنّفة قانونًا ضمن مواد استغلال جنسى للأطفال (CSAM).
وتوضح نجاير ألكساندر، رئيسة خط المساعدة بالمؤسسة، أن الصور التى رُصدت استُخدمت لاحقًا لتوليد مواد أكثر تطرفًا، تشمل نشاطًا جنسيًا اختراقيًا، عبر أدوات ذكاء اصطناعى أخرى.
جاءت ردود الفعل السياسية حازمة على هذا الأمر، إذ علّقت لجنة المرأة والمساواة فى مجلس العموم البريطانى استخدام منصة «X»، وأعلن نواب مغادرتها احتجاجًا، فيما أكد مكتب رئيس الوزراء دعمه ل«جهاز تنظيم الاتصالات البريطانى» «أوفكوم» لاتخاذ إجراءات تنفيذية قد تصل إلى غرامات مليارية ووقف الوصول للموقع عند انتهاك القانون.
ورغم تأكيد «X» أنها تزيل المحتوى غير القانونى وتعلّق الحسابات وتتعاون مع السلطات، فإن ظاهرة تدفق الصور المعدّلة للأطفال على المنصة عكست فجوة إنفاذ لا يُستهان بها، ومخاطر تحويل الذكاء الاصطناعى إلى مُسرِّع لانتهاكات الطفولة بدلًا من أن يكون محايدًا أو مُنظَّمًا.
التصعيد الدولى
لم تتوقف الاستجابة عند (المملكة المتحدة)، فقد أعلنت (إندونيسيا) ثالث أكبر سوق لمنصة «X» عالميًا تعليق الوصول إلى «جروك» لحماية النساء والأطفال من المحتوى الإباحى المزيف، معتبرة «التزييف الجنسى العميق غير القائم على الموافقة» انتهاكًا جسيمًا للحقوق الأساسية والكرامة الإنسانية، فيما لحقتها (ماليزيا) بالقرار نفسه.
وفى (فرنسا)، فُتح تحقيق رسمى بشأن الصور الجنسية المزيفة العميقة التى تولِّدها الأداة. بينما تلقت «X» رسالة رسمية من (الهند)، تُحذّرها من إساءة استخدام «جروك» لتوليد صور تهدف إلى التشهير، وتُطالب بمراجعة تقنية وحوكمية شاملة.
أما فى (الولايات المتحدة)، فدعا أعضاء فى مجلس الشيوخ شركتى «آبل» و«جوجل» إلى إزالة تطبيقَى «X» و«جروك» من متاجر التطبيقات، محذّرين من أن التساهل يقوّض ادعاءات توفير بيئة رقمية آمنة.
فى مواجهة الضغوط، أعلن إيلون ماسك عبر تطبيق X أن أى شخص يستخدم روبوت الدردشة «جروك» لإنشاء محتوى غير قانونى «سيواجه العواقب نفسها كما لو قام بتحميل محتوى غير قانونى»، كما قيّدت الشركة ميزة توليد الصور لتصبح متاحة فقط للمشتركين المدفوعين على «X». لكن بقيت ثغرة وهى التطبيق المستقل ل«جروك» إذ ظل وقت الإعلان يتيح توليد الصور دون اشتراك مدفوع، ما أثار شكوكًا حول فعالية التقييد واتساقه عبر القنوات المختلفة.
هل تكفى القيود المدفوعة؟
قرار «XAI» بقصر توليد الصور على المشتركين المدفوعين قُدِّم بوصفه «تشديدًا» للضوابط. غير أن المنتقدين رأوا أنه يحوّل القدرة على إنتاج محتوى غير قانونى إلى خدمة مدفوعة بدلًا من منعها تقنيًا من الأصل، وأنه لا يجيب عن سؤال: أين أنظمة التحقق، وكوابح السلامة، وآليات رصد الاستغلال قبل الانتشار؟ لأن الأداة، كما وُصفت، صُمِّمت بقيود أقل على المحتوى مقارنة بمنافسين، وتسمح بإنشاء صور «جريئة» ومحتوى حساس، وهو ما يجعل القيود اللاحقة أشبه بمحاولة احتواء لا وقاية.
إلى جانب ذلك، تصاعدت الضغوط التنظيمية. فقد طالبت المفوضية الأوروبية منصة X بالاحتفاظ بالوثائق الداخلية المتعلقة ب«جروك» حتى نهاية العام، وامتد أمر الاحتفاظ بالبيانات حتى 2026.
وفى بريطانيا، وُجّهت دعوات لاختبار أنظمة الذكاء الاصطناعى والتأكد من عدم إنتاجها لمحتوى غير قانونى، وفى الولايات المتحدة أُقِرّ قانون (Take It Down Act )مايو 2025 لمكافحة الصور المزيفة العميقة و«الانتقام الإباحى».
هذه الخطوات تُشير إلى أن الحل ليس فى حواجز اشتراك، بل فى حوكمة تصميم النماذج، ومراجعة البيانات التدريبية، وفرض ضوابط تقنية صارمة على قدرات التوليد والتحرير.
انسحابات مؤسساتية وصراع على الشفافية
التداعيات طالت ثقة المؤسسات الرسمية فى المنصة. فقد أعلنت وزارتا الدفاع والخارجية والقوات المسلحة فى ألمانيا تعليق نشاطها على «X»، وقررت الخارجية الانتقال إلى منصة «بلوسكاى»، فيما أشارت وزارة الدفاع إلى استخدام محدود لمواجهة التضليل، ونقل بقية الأنشطة إلى قنوات أخرى مثل «واتساب».
فإن الإجراءات التى اتُّخذت من التعليق والحظر إلى التقييد للمشتركين المدفوعين تُظهر وعيًا متزايدًا بالخطر، لكنها لا تكفى دون حوكمة شاملة تُدمَج فى تصميم النماذج ذاتها، واختبارات أمان إلزامية، وإنفاذ سريع وعابر للمنصات، وتشريعات واضحة تُجرِّم الأفعال وتُسائل الشركات والأفراد على حد سواء.