فيسبوك تكشف عن استخدامها أنظمة آلية للحد من المحتوى المخالف لسلامة الطفل وكورونا

أعلنت شبكة "فيس بوك" الإصدار الخامس من تقرير إنفاذ معايير المجتمع، حيث نقدم مقاييس حول مدى تطبيقنا لسياساتنا منذ شهر أكتوبر 2019 حتى شهر مارس 2020، ومنحت الشركة الأولوية إلى مجالات سلامة الطفل والإرهاب والانتحار وإيذاء الذات والمعلومات الخاطئة المتعلقة بكوفيد-19، كما قامت الشركة بزيادة اعتمادها في التقرير على الأنظمة الآلية لاكتشاف المحتوى والحسابات المخالفة وإزالتها، لاسيما وإن تعمل بقوة عمل منخفضة خلال الجائحة الحالية، ويعكس هذا التقرير البيانات حتى شهر مارس 2020 فقط، لذا فهو لا يعكس التأثير الكامل للتغييرات التي أجرتها الشركة خلال تفشي الوباء، إلا إنها توقعت تأثير هذه التغييرات في تقريرها المقبل، وربما بعد ذلك بفترة وبشفافية، فعلى سبيل المثال، لم نتمكن بشكل مستمر من تقديم خيار الطعن على قرارات المحتوى وعمليات إزالة الحسابات.

وللأسباب السابقة توقعت شبكة فيسبوك، أن يكون عدد الطعون أقل بكثير في التقرير التالي لها كما قدمت أولوية الإنفاذ على حساب القياس، لذلك قد لا نتمكن من احتساب مدى انتشار المحتوى المخالف خلال هذا الوقت، ويوضح تقرير اليوم تأثير التطورات التي حققتها في التقنية التي تستخدمها بشكل استباقي للعثور على المحتوى المخالف وإزالته.

وتقوم الشبكة حاليا بتضمين مقاييس في أحد عشر سياسة في فيسبوك ومقاييس في تسع سياسات على انستجرام، ويقدم التقرير بيانات انستجرام في أربعة مجالات هي: حديث الكراهية، عُري البالغين والنشاط الجنسي، المحتوى العنيف والجرافيكي، والتنمر والتحرش.

وتشارك للمرة الأولى أيضًا البيانات حول عدد الطعون التي يقدمها الأشخاص بشأن المحتوى الذي اتخذنا ضده إجراء في انستجرام، وعدد القرارات التي تم نقضها إما بناءً على تلك الطعون أو عندما نحدد المشكلة بأنفسنا، وقد أضافت أيضًا بيانات عن جهودها لمكافحة الكراهية المنظمة على فيسبوك وانستجرام.

وقالت فيس بوك إنها قامت بتحسين تقنيتها التي تحد بشكل استباقي المحتوى المخالف، مما ساعدها على إزالة المزيد من المحتوى المخالف والذي يراه عدد أقل من الأشخاص وذلك عند البحث عن المحتوى المخالف وإزالته، كما واصلت فيسبوك توسيع تقنية الكشف الاستباقي لخطاب الكراهية لتشمل المزيد من اللغات، وتحسين أنظمة الاكتشاف الحالية.

وقد ارتفع معدل الاكتشاف الاستباقي لخطاب الكراهية للشبكة بأكثر من 8 نقاط خلال الربعين الماضيين، حيث بلغ إجمالي الزيادة 20 نقطة تقريبًا في عام واحد فقط. ونتيجة لذلك، يمكننا الآن العثور على المزيد من المحتوى المخالف كما يمكننا الآن اكتشاف 90% تقريبًا من المحتوى الذي نزيله قبل أن يبلغنا عنه أي شخص.

وتابعت الشركة فى بيانها:"بفضل التحسينات الأخرى التي أدخلناها على تقنية الكشف لدينا، ضاعفنا كمية محتوى المتعلق بالمخدرات الذي أزلناه في الربع الرابع من عام 2019، حيث أزلنا 8.8 مليون قطعة من المحتوى، كما أدخلنا تحسينات على انستجرام فيما يخص تقنية مطابقة النصوص والصور لدينا وذلك لمساعدتنا في العثور على المزيد من محتوى الانتحار وإيذاء الذات".

ونتيجة لذلك، قامت الشركة بزيادة مقدار المحتوى الذي اتخذنا إجراءات بشأنه بنسبة 40%، كما زدنا معدل الاكتشاف الاستباقي بأكثر من 12 نقطة منذ التقرير الأخير. وحققت أيضًا تقدمًا في عملنا في مكافحة التنمر عبر الإنترنت من خلال طرح العديد من الخصائص الجديدة لمساعدة الأشخاص على إدارة تجربتهم والحد من التفاعلات غير المرغوب فيها، وأعلنا عن عناصر تحكم جديدة في انستجرام اليوم.

وذكرت فيسبوك: "نشارك بيانات التنفيذ الخاصة بالتنمر على انستجرام لأول مرة في هذا التقرير، بما في ذلك اتخاذ إجراء بشأن 1.5 مليون قطعة من المحتوى في كل من الربع الرابع من عام 2019 و الربع الأول من عام 2020، كما ساعدتنا التحسينات التي أدخلت على تقنيتنا في العثور على محتوى مشابه للمحتوى المخالف الحالي في قواعد بياناتنا الأمر الذي ساعدنا على إزالة المزيد من المحتوى المرتبط بعري الأطفال ومحتوى الاستغلال الجنسي على فيسبوك وانستجرام".

وقالت فيس بوك:"على مدى الأشهر الستة الماضية، بدأنا في استخدام التقنية بشكل أكبر لمنح الأولوية للمحتوى ولفرقنا لمراجعته استنادًا إلى عوامل من بينها؛ الانتشار والحدة من بين العديد من العوامل الأخرى. ومن الآن فصاعدًا، سنخطط للاستفادة من التقنية لاتخاذ إجراء أيضًا بشأن المحتوى، بما في ذلك إزالة المزيد من المشاركات تلقائيًا. وسيؤدي ذلك إلى تمكين مراجعي المحتوى لدينا من تركيز وقتهم على أنواع أخرى من المحتوى والتي تحتاج إلى مزيد من إبراز الفروق الدقيقة والسياق لاتخاذ قرار".

ويتم نشر تقرير إنفاذ معايير المجتمع بالتوازي مع تقرير الشفافية نصف السنوي الذي يتضمن الأرقام الخاصة بالطلبات الحكومية لبيانات المستخدم، وقيود المحتوى على أساس القانون المحلي، وإزالة الملكية الفكرية وتعطيل الإنترنت، وسنقوم في المستقبل بمشاركة تقرير إنفاذ معايير المجتمع على أساس ربع سنوي، وبذلك سيتم نشر تقريرنا التالي في شهر أغسطس.