«فيسبوك»: قمنا بتحسين تقنيتنا التي تجد المحتوى المخالف بشكل استباقي

أصدرت شركة «فيسبوك»، الثلاثاء، الإصدار الخامس من تقرير إنفاذ معايير المجتمع، والخاص بالتغييرات التي طرأت على سياسيات الموقع في ظل وباء فيروس «كورونا».
وقال الشركة في تقريرها: «ننشر اليوم الإصدار الخامس من تقرير إنفاذ معايير المجتمع، حيث نقدم مقاييس حول مدى تطبيقنا لسياساتنا منذ شهر أكتوبر 2019 حتى شهر مارس 2020، وبسبب أننا أرسلنا بشكل مؤقت مراجعي المحتوى إلى منازلهم في الأسبوعين الأخيرين من هذا التقرير نظراً لانتشار جائحة كوفيد-19، فقد بدأنا العمل بقوى عاملة منخفضة تشتغل عن بعد؛ ونتيجة لذلك، قمنا بنقل أعمال معينة إلى موظفين يعملون بدوام كامل ومنحنا الأولوية إلى مجالات سلامة الطفل والإرهاب والانتحار وإيذاء الذات والمعلومات الخاطئة المتعلقة بكوفيد-19».
وتابعت: «كما قمنا بزيادة اعتمادنا على الأنظمة الآلية لاكتشاف المحتوى والحسابات المخالفة وإزالتها. يعكس هذا التقرير البيانات حتى شهر مارس 2020 فقط، لذا فهو لا يعكس التأثير الكامل للتغييرات التي أجريناها خلال تفشي الوباء».
وأضافت: «نتوقع أن نرى تأثير هذه التغييرات في تقريرنا المقبل، وربما بعد ذلك بفترة، وسنكون شفافين حيالها. فعلى سبيل المثال، لم نتمكن بشكل مستمر من تقديم خيار الطعن على قرارات المحتوى وعمليات إزالة الحسابات، لذلك نتوقع أن يكون عدد الطعون أقل بكثير في تقريرنا التالي».
وأوضحت: «كما قدمنا أولوية الإنفاذ على حساب القياس، لذلك قد لا نتمكن من احتساب مدى انتشار المحتوى المخالف خلال هذا الوقت.. ويوضح تقرير اليوم تأثير التطورات التي حققناها في التقنية التي نستخدمها بشكل استباقي للعثور على المحتوى المخالف وإزالته».
ما هو الجديد في هذا التقرير؟
نقوم الآن بتضمين مقاييس في 12 سياسة في فيسبوك ومقاييس في 10 سياسات على انستجرام. ويقدم التقرير بيانات انستجرام في أربعة مجالات هي: حديث الكراهية، عُري البالغين والنشاط الجنسي، المحتوى العنيف والجرافيكي، والتنمر والتحرش. ونشارك للمرة الأولى أيضًا البيانات حول عدد الطعون التي يقدمها الأشخاص بشأن المحتوى الذي اتخذنا ضده إجراء في انستجرام، وعدد القرارات التي تم نقضها إما بناءً على تلك الطعون أو عندما نحدد المشكلة بأنفسنا. وقد أضفنا أيضًا بيانات عن جهودنا لمكافحة الكراهية المنظمة على فيسبوك وانستجرام. ويمكنكم معرفة المزيد حول هذه الجهود والتقدم الذي أحرزناه هنا
التقدم في البحث عن المحتوى المخالف وإزالته
قمنا بتحسين تقنيتنا التي تجد بشكل استباقي المحتوى المخالف، مما ساعدنا على إزالة المزيد من المحتوى المخالف والذي يراه عدد أقل من الأشخاص.
واصلنا في فيسبوك توسيع تقنية الكشف الاستباقي لخطاب الكراهية لتشمل المزيد من اللغات، وتحسين أنظمة الاكتشاف الحالية. وقد ارتفع معدل الاكتشاف الاستباقي لخطاب الكراهية لدينا بأكثر من 8 نقاط خلال الربعين الماضيين، حيث بلغ إجمالي الزيادة 20 نقطة تقريبًا في عام واحد فقط.
ونتيجة لذلك، يمكننا الآن العثور على المزيد من المحتوى المخالف كما يمكننا الآن اكتشاف 90% تقريبًا من المحتوى الذي نزيله قبل أن يبلغنا عنه أي شخص.
بالإضافة إلى ذلك، وبفضل التحسينات الأخرى التي أدخلناها على تقنية الكشف لدينا، ضاعفنا كمية محتوى المتعلق بالمخدرات الذي أزلناه في الربع الرابع من عام 2019، حيث أزلنا 8.8 مليون قطعة من المحتوى.
أدخلنا تحسينات على انستجرام فيما يخص تقنية مطابقة النصوص والصور لدينا وذلك لمساعدتنا في العثور على المزيد من محتوى الانتحار وإيذاء الذات. ونتيجة لذلك، قمنا بزيادة مقدار المحتوى الذي اتخذنا إجراءات بشأنه بنسبة 40%، كما زدنا معدل الاكتشاف الاستباقي بأكثر من 12 نقطة منذ التقرير الأخير.
وحققنا أيضًا تقدمًا في عملنا في مكافحة التنمر عبر الإنترنت من خلال طرح العديد من الخصائص الجديدة لمساعدة الأشخاص على إدارة تجربتهم والحد من التفاعلات غير المرغوب فيها، وأعلنا عن عناصر تحكم جديدة في انستجرام اليوم. ونشارك بيانات التنفيذ الخاصة بالتنمر على انستجرام لأول مرة في هذا التقرير، بما في ذلك اتخاذ إجراء بشأن 1.5 مليون قطعة من المحتوى في كل من الربع الرابع من عام 2019 والربع الأول من عام 2020.
أخيرًا، ساعدتنا التحسينات التي أدخلت على تقنيتنا في العثور على محتوى مشابه للمحتوى المخالف الحالي في قواعد بياناتنا الأمر الذي ساعدنا على إزالة المزيد من المحتوى المرتبط بعري الأطفال ومحتوى الاستغلال الجنسي على فيسبوك وانستجرام.
على مدى الأشهر الستة الماضية، بدأنا في استخدام التقنية بشكل أكبر لمنح الأولوية للمحتوى ولفرقنا لمراجعته استنادًا إلى عوامل من بينها؛ الانتشار والحدة من بين العديد من العوامل الأخرى. ومن الآن فصاعدًا، سنخطط للاستفادة من التقنية لاتخاذ إجراء أيضًا بشأن المحتوى، بما في ذلك إزالة المزيد من المشاركات تلقائيًا.
وسيؤدي ذلك إلى تمكين مراجعي المحتوى لدينا من تركيز وقتهم على أنواع أخرى من المحتوى والتي تحتاج إلى مزيد من إبراز الفروق الدقيقة والسياق لاتخاذ قرار.
يتم نشر تقرير إنفاذ معايير المجتمع بالتوازي مع تقرير الشفافية نصف السنوي الذي يتضمن الأرقام الخاصة بالطلبات الحكومية لبيانات المستخدم، وقيود المحتوى على أساس القانون المحلي، وإزالة الملكية الفكرية وتعطيل الإنترنت.
وسنقوم في المستقبل بمشاركة تقرير إنفاذ معايير المجتمع على أساس ربع سنوي، وبذلك سيتم نشر تقريرنا التالي في شهر أغسطس.