كشفت مشرفة سابقة بموقع فيس بوك أن عملها بالشبكة الاجتماعية سبب لها الكثير من المشاكل، فإجبارها على فحص الكثير من المواد المزعجة التى لا نهاية لها. وعملت سارة كاتز، البالغة من العمر 27 عامًا ، كمراجعة للمحتوى فى مقر فيس بوك فى مينلو بارك بكاليفورنيا، من خلال شركة Vertisystem ، وهى شركة طرف ثالث، لمدة ثمانية أشهر فى عام 2016، وكانت وظيفتها بسيطة، فكل ما كان عليها فعله هو معرفة ما إذا كانت المشاركات التى تم الإبلاغ عنها على فيس بوك تنتهك معايير المجتمع التى أقرتها الشركة. سارة كاتز وكان هذا يعنى فحص مواد مروعة كل 10 ثوانٍ واتخاذ قرار حاسم حول ما إذا كانت هناك حاجة إلى التخلص منها أم لا، وكانت المشاركات التى تحتاج إلى المراجعة تسمى "تذاكر" ، وكان يبلغ عددها نحو 8 آلاف يوميًا. للتعامل مع هذا الكم الهائل من المحتوى غير اللائق، كان لدى فيس بوك 4500 مشرف مثل كاتز فى كتبه خلال العام الماضى، وفى مايو 2017 أعلن عن خطط لتوظيف 3000 آخرين لمساعدته فى محاربة المنشورات غير المناسبة، كما يستثمر فيس بوك فى الذكاء الاصطناعى لمراقبة المشاركات التى تخالف قواعده. ويبدأ مراجعو المحتوى رحلتهم على فيس بوك بتوقيع وثيقة تنازل، والتى تعد بمثابة اعتراف باستعدادهم لمشاهدة المواد المزعجة، كما تم تصميمها أيضًا لحماية فيس بوك من أى إجراء قانونى محتمل. وثيقة التنازل وتقول كاتز التى وقعت على هذه الوثيقة، إن المراقبين يتعرضون لمواد قد تكون مسيئة لبعض الناس، بما فى ذلك الصور الإباحية، مضيفة أنه يجب على الموظفين إخطار فيس بوك على الفور إذا كانوا لا يرغبون فى الاستمرار. وقالت كاتز لصحيفة بيزنس إنسايدر: "لدى فيس بوك مليارات من المستخدمين، والناس لا يعرفون كيفية استخدام المنصة بشكل صحيح ، لذلك كان هناك الكثير من المواد الإباحية، وكان هناك الكثير من المحتوى الذى قد لا تتوقع مشاهدته على فيس بوك." وعملت كاتز فى مكتب مفتوح فى مينلو بارك، حيث كانت تحصل على وجبات خفيفة مجانية وكونت صداقات مع بعض زملائها، وقالت انها كانت تراجع المنشورات، وعندما تزداد كان عليها إتخاذ القرارات فى غضون ثوان. وإذا لم يتم استيفاء أهداف التذاكر، تكون هناك عواقب، وقالت كاتز إن عدم تحقيق الهدف مرة أو مرتين قد يؤدى إلى تحذير، أكثر من ثلاث مرات، وربما يتم طردك، وأوضحت كاتز إنها لم تشهد هذا قط، ولكن كان هذا الأمر معروفا بشكل غير رسمى بين الموظفين. جدير بالذكر أن موقع فيس بوك قام بتوضيح حجم مشكلته مع المحتوى المحظور فى تقرير الشفافية فى مايو، وقال إنه فى الأشهر الثلاثة الأولى من هذا العام "اتخذ إجراءات" تتعلق بنحو 21 مليون منشور يحتوى على العرى والنشاط الجنسى و 3.4 مليون يضم العنف الجرافيكى، تمت إزالة الملايين من المشاركات التى تحتوى على كلام يحض على الكراهية والبريد المزعج ومحتوى الإرهاب.
