كيف تكافح شركة فيسبوك الإرهاب؟

بقلم مونيكا بيكرت، مدير إدارة السياسة العالمية وبريان فيشمان، مدير سياسة مكافحة الإرهاب لدى فيسبوك
في أعقاب الهجمات الإرهابية الأخيرة، بدأ الناس يشككون في دور شركات التقنية في مكافحة الإرهاب على شبكة الإنترنت. ونحن نسعى لتقديم الإجابات على هذه الأسئلة. وبالفعل نتفق مع أولئك الذين يرون أن وسائل التواصل الاجتماعي ينبغي ألا تكون منصة للإرهابيين تمكنهم من إيصال رسائلهم ونشر فكرهم. ونريد أن نكون واضحين جدًا حول الإجراءات الجدية والحاسمة التي نتخذها لمعالجة هذه المسألة لأن الحفاظ على أمن مجتمعاتنا على فيسبوك أمر بالغ الأهمية وأولوية رئيسية ضمن رسالتنا.
وسنسلط الضوء في هذه المدونة على إجراءاتنا وجهودنا خلف الكواليس، بما في ذلك كيفية استخدامنا لتقنيات الذكاء الاصطناعي للتخلص من المحتوى الذي يحض على الإرهاب وإزالته عن صفحات فيسبوك، وهو أمر لم نتحدث عنه علنًا من قبل. وسوف نناقش أيضًا الجهود التي يبذلها المستخدمون في مكافحة الإرهاب، حيث قضى بعضهم مسيرتهم المهنية بأكملها في مكافحة الإرهاب، فضلًا عن طرق تعاوننا مع الشركاء خارج شركتنا في هذا المجال.
موقفنا صريح وبسيط: ليس هناك مكان للإرهاب على فيسبوك. فنحن نتخلص من الإرهابيين ونزيل المنشورات التي تدعم الإرهاب فور علمنا بها. وعندما نتلقى تقارير عن منشورات محتملة تدعم الإرهاب، نراجع تلك المنشورات والمشاركات بشكل سريع ومستعجل ونتحقق منها بدقة. وفي حالات نادرة وعندما نكتشف أدلة على وقوع ضرر وشيك، نقوم بإبلاغ السلطات على الفور. وعلى الرغم من أن البحوث الأكاديمية ترى أن صناعة التطرف وتجنيد أعضاء الجماعات مثل داعش والقاعدة يحدث في المقام الأول على الأرض وفي الميدان، نحن نعلم جيدًا أن الإنترنت تلعب دورًا مهمًا أيضًا- ونحن لا نريد أن يستخدم فيسبوك في أي نشاط إرهابي مهما كان.
نحن نؤمن بأن التقنية وفيسبوك يمكن أن يكونا جزءًا من الحل.
لقد توخينا الحذر، ويعود ذلك جزئيًا لأننا لا نريد أن نشير إلى وجود طريقة تقنية سهلة للتعامل مع المسألة. فالحفاظ على سلامة الناس على منصة يستخدمها ما يقرب من 2 مليار شخص كل شهر ويشاركون وينشرون التعليقات بأكثر من 80 لغة في كل ركن من أركان المعمورة، يشكل تحديًا هائلًا. وهناك الكثير من العمل والإجراءات المعقدة التي يتعين القيام بها. ولكننا أردنا أن نشرككم بما نعمل عليه حاليًا ونسمع تعليقاتك وملاحظاتكم حتى نتمكن من تحقيق ما هو أفضل.
الذكاء الاصطناعي
نحن نسعى إلى العثور على المحتوى المتطرف بصورة فورية، قبل أن يتسنى للناس في مجتمعنا مشاهدته. ومعظم الحسابات التي نزيلها بسبب قضايا مكافحة الإرهاب، نعثر عليها بأنفسنا. ولكننا نعلم أننا إذا ما استخدمنا التقنية سنحقق نتائج أفضل – ونتحدث هنا تحديدًا عن الذكاء الاصطناعي – في مجال وقف انتشار المحتوى المتطرف على فيسبوك. وعلى الرغم من أن استخدامنا للذكاء الاصطناعي في مواجهة الإرهاب لا يزال حديث العهد إلى حد ما، إلا أنه بات يغير الطرق التي نتخلص من خلالها من الترويج المحتمل للإرهاب وإزالة حسابات المتطرفين عن فيسبوك.
ونحن نركز جهودنا حاليًا على أحدث تقنياتنا لمكافحة المحتوى المتطرف عن تنظيم الدولة الإسلامية (داعش) وتنظيم القاعدة والمنظمات أو الجماعات التابعة لها، ونتوقع التوسع في جهودنا لمحاربة منظمات إرهابية الأخرى في الوقت المناسب. ونقوم باستمرار بتحديث الحلول التقنية لدينا، ولكن فيما يلي مجموعة من جهودنا الحالية.
مطابقة الصور
عندما يحاول شخص ما تحميل صورة أو فيديو لإرهابي، فإن أنظمتنا تحلل الصورة للتأكد إذا ما كانت تتطابق مع صورة أو فيديو لإرهابي معروف. وهذا يعني أنه إذا سبق لنا أن قمنا بإزالة فيديو ترويجي لتنظيم الدولة داعش، يمكننا العمل لمنع الحسابات الأخرى من تحميل نفس الفيديو عبر موقعنا. وفي كثير من الحالات، فإن ذلك يعني أن المحتوى الإرهابي المعد للتحميل على فيسبوك ببساطة لن يصل إلى المنصة.
فهم اللغة
بدأنا مؤخرًا أيضًا تجربة واختبار طرق استخدام الذكاء الاصطناعي لفهم النصوص التي قد تدعو أو تحرض على الإرهاب. ونحاول حاليًا تجربة تحليل النصوص الذي أزلناها بالفعل عن منصتنا بسبب الإشادة أو دعم الجماعات والمنظمات الإرهابية مثل تنظيم الدولة داعش والقاعدة لكي نتمكن من تطوير إشارات تستند إلى النصوص بأن مثل هذا المحتوى قد يكون فكرًا متطرفًا أو دعاية إرهابية. ويذهب هذا التحليل إلى خوارزمية لا تزال في المراحل المبكرة لتعلم كيفية اكتشاف منشورات مماثلة. وتعمل خوارزميات التعلم الآلي بالاستناد على حلقة من ردود الفعل والملاحظات وبالتالي تتطور وتعمل بشكل أفضل مع مرور الوقت.
إزالة التجمعات الإرهابية
نعلم من خلال الدراسات أن الإرهابيين عادة ما يتم حشدهم ويمارسون أعمالهم ضمن مجموعات. وينعكس هذا الاتجاه حاليًا على الإنترنت أيضًا. لذلك عندما نتمكن من تحديد الصفحات أو المجموعات أو المشاركات أو الملفات الشخصية التي تدعم الإرهاب، فإننا نستخدم أيضا خوارزميات معينة تمكننا من فصل وتحديد المواد ذات الصلة والتي قد تدعم الإرهاب أيضًا. ونستخدم إشارات مثل تلك التي تدلنا إذا ما كان الحساب تجمعه صداقة مع عدد كبير من الحسابات التي تم تعطيلها لأسباب متعلقة بالتطرف والإرهاب، أو إذا ما كان الحساب تجمعه نفس السمات مع حساب آخر تم تعطيله.
الحسابات المزيفة
لقد أصبحنا أيضًا أسرع بكثير في الكشف عن الحسابات الوهمية الجديدة التي يتم إنشاؤها بشكل متكرر من قبل نفس المخالفين. ومن خلال هذا العمل، تمكنا من الحد بشكل كبير من فترة تواجد الحسابات المخالفة على فيسبوك.
ولكن هذا العمل لن ينتهي هنا لأنه يشبه حالة الصراع المستمر فالإرهابيون يقومون بتطوير أساليبهم بشكل مستمر أيضًا.
ونحن نعمل باستمرار على تحديد الطرق الجديدة التي تحاول الجهات الإرهابية التحايل على أنظمتنا من خلالها ثم نحدث تكتيكاتنا بناءً على ذلك.
التعاون عبر المنصات
لأننا لن نسمح للإرهابيين بأن يكون لهم موطئ قدم في أي من التطبيقات التابعة لفيسبوك، بدأنا العمل على تطوير أنظمة لتمكيننا من اتخاذ إجراءات ضد حسابات الإرهابيين على جميع منصاتنا، بما في ذلك تطبيقي واتساب وإنستجرام.
وبالنظر إلى البيانات المحدودة التي يتم جمعها في بعض التطبيقات، فإن القدرة على تبادل البيانات عبر جميع المنصات التابعة لفيسبوك أمر أساسي في جهودنا للحفاظ على أمن جميع منصاتنا.
الخبرات البشرية
ليس بإمكان الذكاء الاصطناعي أن يكشف عن كل شيء. إن تعقب واكتشاف الأشخاص الذين يدعمون الإرهاب والفكر المتطرف ليس بمسألة سهلة أو مباشرة، والخوارزميات لا تصل إلى مستوى مهارة البشر عندما يتعلق الأمر بفهم هذا النوع من المحتوى.
فقد تكون صورة رجل مسلح يلوح بعلم تنظيم الدولة داعش دعاية أو محاولة للحشد أو التجنيد ولكنها أيضًا قد تكون صورة واردة في خبر.
وكذلك فإن بعض الانتقادات الأكثر فعالية لهذه الجماعات المتطرفة مثل تنظيم الدولة داعش قد تعتمد في نقدها على نفس المواد والأفكار التي تروجها هذه الجماعات ولفهم هذه الحالات المعقدة، نحن بحاجة إلى الخبرات البشرية.
التقارير والمراجعات
يقدم مجتمعنا أي أولئك الذين يستخدمون فيسبوك المساعدة في هذا المجال من خلال الإبلاغ عن الحسابات أو المحتوى الذي قد ينتهك سياساتنا – بما في ذلك الجزء المتعلق بقضايا الإرهاب. وتعمل فرق العمليات المجتمعية المنتشرة حول العالم والتي نعمل على زيادتها بنحو 3 آلاف شخص خلال العام المقبل على مدار 24 ساعة في اليوم بعشرات اللغات لمراجعة هذه التقارير وتحديد نوعية المحتوى. وقد يكون هذا العمل مجهودًا صعبًا للغاية، ونحن ندعم هؤلاء المراجعين بالمشورة على الأرض والتدريب.
متخصصون في قضايا التطرف والسلامة
في العام الماضي، قمنا أيضًا بتنمية فريقنا من المتخصصين في مكافحة الإرهاب. ويوجد على فيسبوك أكثر من 150 شخصًا يتخصصون حصرًا أو بشكل رئيسي في مكافحة الإرهاب باعتبارها مسؤوليتهم الأساسية. وتشمل هذه المجموعة خبراء أكاديميين في مجال مكافحة الإرهاب ومدعين عامين سابقين وموظفين قانونيين ومحللين ومهندسين سابقين. ويتكلم أعضاء هذا الفريق المتخصص وحده ما يقرب من 30 لغة.
التهديدات الحقيقية على الأرض
نحن نستخدم الذكاء الاصطناعي بشكل متزايد لتحديد وإزالة المحتوى المتطرف، ولكن أجهزة الحاسوب لا تتقن تحديد ما يشكل تهديدًا حقيقيًا يتطلب التصعيد بما يستدعي إنفاذ القانون. لدينا أيضا فريق عالمي يستجيب في غضون دقائق لطلبات إنفاذ القانون الطارئة.
الشراكة مع جهات أخرى
إن العمل على إبعاد الإرهاب عن فيسبوك ليس كافيًا لأن الإرهابيين قادرون على التنقل من منصة إلى أخرى. ومن هنا تبرز أهمية الشراكات مع الآخرين كالشركات الأخرى والمجتمع المدني والباحثين والحكومات.
التعاون على مستوى الصناعة
بهدف التمكن من تحديد المحتوى المتطرف على الإنترنت بسرعة والحد من سرعة انتشاره، انضممنا إلى مايكروسوفت وتويتر ويوتيوب قبل ستة أشهر للإعلان عن قاعدة بيانات مشتركة من البصمات الرقمية الفريدة (hashes) الخاصة بالصور ومقاطع الفيديو – للمحتوى الذي تنتجه المنظمات الإرهابية أو ذلك الذي يدعمها.
وقد أثمر هذا التعاون بالفعل عن نتائج مهمة وملموسة، ونأمل بأن نتمكن من إضافة المزيد من الشركاء في المستقبل. ونحن ممتنون لشركائنا لمساعدتنا على الحفاظ على فيسبوك كمكان آمن.
الحكومات
تضطلع الحكومات والوكالات الحكومية الدولية أيضًا بدور رئيسي في الاجتماع والتشاور وتقديم الخبرات التي يتعذر على الشركات أن تطورها أو تكتسبها بشكل مستقل.
لقد تعلمنا الكثير من خلال المعطيات التي قدمتها لنا وكالات في دول مختلفة حول آليات الترويج والدعاية لتنظيم الدولة داعش والقاعدة. كما شاركنا واستفدنا من جهود دعم التعاون على مستوى الصناعة من قبل منظمات مثل منتدى الإنترنت في الاتحاد الأوروبي والتحالف العالمي ضد داعش ووزارة الداخلية البريطانية.
التشفير
نحن نعلم أن الإرهابيين يلجأون أحيانًا إلى استخدام الرسائل المشفرة للتواصل. يذكر أن تقنية التشفير لديها العديد من الاستخدامات المشروعة من حماية خدماتنا المصرفية على الإنترنت وصولًا إلى الحفاظ على أمن صورنا.
وهي أيضًا مهمة بالنسبة للصحفيين والعاملين في المنظمات غير الحكومية والناشطين في مجال حقوق الإنسان وغيرهم ممن يرغبون بالحفاظ على أمن رسائلهم. ونظرًا لطريقة عمل تقنية التشفير من النّهاية إلى النّهاية (E2EE)، لا يمكننا قراءة محتويات الرسائل الفردية المشفرة ولكننا نقدم المعلومات التي نستطيع توفيرها استجابة لطلبات إنفاذ القانون السارية، بما يتماشى مع القانون ويتماشى مع سياساتنا.
التدريب على الخطاب المضاد للفكر المتطرف
نحن نؤمن أيضًا بأن تحدي ومجابهة الأفكار المتطرفة على الإنترنت هو جزء مهم من الاستجابة للتطرف ومواجهته في العالمي الفعلي.
ويمكن للخطاب المضاد للفكر المتطرف أن يتخذ أشكالًا كثيرة، ولكن بشكل رئيسي يمكن تعريفه بأنه مجموعة من الجهود التي تمنع الناس من اتخاذ نمط حياة يزخر بالكراهية والعنف والفكر المتطرف أو إقناعهم بترك هذا النمط من العيش ونبذ هذه الأفكار. ولكن لا ننسى أن الخطاب المضاد يؤتي ثماره فقط عندما يقوده متحدثون ذوو مصداقية.
لذا فقد دخلنا في شراكة مع منظمات غير حكومية ومجموعات مجتمعية لتمكين ودعم الأصوات الأكثر تأثيرًا.
برامج الشركاء
نحن ندعم العديد من البرامج الرئيسية المختصة بالحوار المضاد للفكر المتطرف. على سبيل المثال، عملنا في العام الماضي مع معهد الحوار الاستراتيجي لإطلاق مبادرة الشجاعة المدنية على الإنترنت، وهو مشروع شارك فيه أكثر من 100 منظمة مناهضة للكراهية والتطرف في جميع أنحاء أوروبا. وعملنا أيضًا مع أفينيس لابس لاستضافة المسابقات التقنية في أماكن شملت مانيلا وداكا وجاكرتا، حيث انضم قادة المجتمع إلى رواد التقنية لتطوير حلول مبتكرة لمناهضة ودحر التطرف والكراهية على الإنترنت.
وأخيرًا: دعمنا برنامجًا حقق أوسع انتشار عالمي وهو مسابقة للطلاب نظمت من خلال تقنية P2P تحت اسم Facebook Global Digital Challenge. وفي أقل من عامين، وصلت المسابقة إلى أكثر من 56 مليون شخص في العالم من خلال أكثر من 500 حملة لمكافحة الكراهية والتطرف أطلقها أكثر من 5500 طالب جامعي في 68 بلدًا.
التزامنا
نريد أن يكون فيسبوك مكانا معاديًا وغير حاضنًا للإرهابيين. والتحدي بالنسبة للمجتمعات الافتراضية على الإنترنت هو بنفس ثقل التحدي الذي تواجهه المجتمعات في عالمنا الفعلي – ويتمثل في تحسين طرق وسرعة اكتشاف الإشارات الأولى للإرهاب قبل فوات الأوان. ونحن ملتزمون التزامًا مطلقًا بإبعاد الإرهاب والتطرف عن منصتنا وسنواصل مشاركة المزيد حول هذا العمل المستمر مع تطور جهودنا في المستقبل.