كيف انتشر مقطع فيديو انتحاري من فيسبوك على TikTok

في الحادي والثلاثين من أغسطس ، انتحر روني ماكنوت ، المحارب المخضرم في الجيش الأمريكي ، أثناء البث المباشر على Facebook. تم حذف البث منذ ذلك الحين ، ولكن ليس قبل إعادة نشر الفيديو ومشاركته على مواقع أخرى ، وانتشر في النهاية على TikTok في وقت سابق من هذا الأسبوع. اجمع بين عدم قدرة Facebook على إيقاف البث وصراع TikTok مع المحتوى الفيروسي ، ومن الواضح أن جهودهم في منع انتشار المحتوى الضار لا تنجح.
نشأت المشكلة مع Facebook ، وفقًا لصديق McNutt ، Josh Steen ، الذي يقود حاليًا حملة #ReformForRonnie لمحاسبة شركات وسائل التواصل الاجتماعي. أخبر Steen Snopes أنه أبلغ عن البث المباشر إلى Facebook بينما كان McNutt لا يزال على قيد الحياة ، لكنه لم يتلق ردًا من الشركة إلا بعد فوات الأوان. حتى ذلك الحين ، تلقى ردًا آليًا يفيد بأن الفيديو لا ينتهك معايير المجتمع.
"توفي روني لمدة ساعة ونصف تقريبًا عندما تلقيت أول إشعار من Facebook بأنهم لن يحذفوا الفيديو [...] ما هي المعايير الجحيمية؟" قال ستين لسنوبس.
في وقت سابق من هذا الأسبوع ، أصدر Facebook البيان التالي: "أزلنا الفيديو الأصلي من Facebook الشهر الماضي في اليوم الذي تم بثه فيه واستخدمنا تقنية التشغيل الآلي لإزالة النسخ والتحميلات منذ ذلك الوقت."
في وقت لاحق ، في 10 سبتمبر ، أبلغت الشركة Snopes أن الفيديو ظل على الموقع لمدة ساعتين و 41 دقيقة قبل إزالته. وقالت في بيان: "نراجع كيف كان بإمكاننا إزالة البث المباشر بشكل أسرع". قال ستين ل Snopes إن هاتين الساعتين و 41 دقيقة ليست سريعة بما يكفي للرد ، وهي غير مقبولة تمامًا حيث تأثر الأصدقاء والعائلة بالفيديو.
خلال ذلك الوقت ، تمت إعادة نشر الفيديو على مجموعات أخرى على Facebook ، ووفقًا ل Vice ، انتشر في المنتديات الهامشية مثل 4chan. أعاد مستخدمو هذه المواقع مشاركة الفيديو على Facebook ، بالإضافة إلى أماكن أخرى مثل Twitter و YouTube. ولكن هذا هو المكان الذي انتشر فيه الفيديو حقًا على TikTok.
أحد الأسباب المحتملة لهذا الانتشار هو خوارزمية TikTok ، والتي غالبًا ما تُنسب إلى نجاح التطبيق. الميزة الرئيسية ل TikTok هي صفحة For You ، وهي عبارة عن دفق لا ينتهي من مقاطع الفيديو المصممة خصيصًا لك ، بناءً على اهتماماتك ومشاركتك. بسبب هذه الخوارزمية ، غالبًا ما يكون من الممكن أن ينتشر المجهولون بالكامل ويجعلونها كبيرة على TikTok ، بينما قد يواجهون مشكلة في القيام بذلك على الشبكات الاجتماعية الأخرى.
في منشور مدونة نُشر في يونيو ، قال TikTok أنه عندما يتم تحميل مقطع فيديو على الخدمة ، يتم عرضه لأول مرة على مجموعة فرعية صغيرة من المستخدمين. بناءً على استجابتهم - مثل مشاهدة كل شيء أو مشاركته - تتم مشاركة الفيديو بعد ذلك مع المزيد من الأشخاص الذين قد يكون لديهم اهتمامات مماثلة ، ثم يتم تكرار حلقة التعليقات ، مما يؤدي إلى انتشار الفيديو. يتم أيضًا وضع عناصر أخرى مثل مقاطع الأغاني وعلامات التصنيف والتعليقات التوضيحية في الاعتبار ، ولهذا غالبًا ما يضيف المستخدمون علامة التصنيف "#foryou" للوصول إلى صفحة For You - إذا تفاعل الأشخاص مع علامة التصنيف هذه ، فيمكن التوصية بمزيد من مقاطع الفيديو بنفس العلامة.
تيومين ، روسيا - 21 يناير 2020: تطبيق TikTok و Facebook على الشاشة Apple iPhone XRAnatoliy Sizov عبر Getty Images
بمعنى آخر ، باستخدام بعض مقاطع الأغاني الشائعة وعلامات التصنيف والتعليقات التوضيحية ، من المحتمل أن "تلعب" خوارزمية TikTok وتخدع الأشخاص لمشاهدة الفيديو. على الرغم من أن TikTok لم يقل هذا ما حدث في هذه الحالة ، فهذا بالتأكيد احتمال. من الممكن أيضًا أنه مع انتشار قصة الفيديو ، ربما يكون الأشخاص قد بحثوا ببساطة عن الفيديو بمفردهم لإرضاء فضول مزعج ، والذي بدوره يدفعه إلى أن يتم التقاطه في صفحة For You مرارًا وتكرارًا.
تعمل TikTok ، من جانبها ، على حظر الفيديو وإزالته منذ أن بدأ الظهور يوم الأحد. وقالت في بيان:
قامت أنظمتنا ، جنبًا إلى جنب مع فرق الإشراف لدينا ، باكتشاف هذه المقاطع وإزالتها بسبب انتهاك سياساتنا ضد المحتوى الذي يعرض الانتحار أو يشيد به أو يمجده أو يروج له. نحن نحظر الحسابات التي تحاول تحميل المقاطع مرارًا وتكرارًا ، ونقدر أعضاء مجتمعنا الذين أبلغوا
عن محتوى وحذروا الآخرين من مشاهدة مقاطع الفيديو هذه أو الانخراط فيها أو مشاركتها على أي نظام أساسي احتراما للشخص وعائلته. إذا كان أي شخص في مجتمعنا يعاني من أفكار الانتحار أو يشعر بالقلق بشأن شخص ما ، فنحن نشجعه على طلب الدعم ، ونوفر الوصول إلى الخطوط الساخنة مباشرة من تطبيقنا وفي مركز الأمان الخاص بنا.
لكن الشركة تمر بوقت عصيب. استمر المستخدمون في اكتشاف الحلول البديلة ، مثل مشاركة الفيديو في التعليقات ، أو إخفاءه في فيديو آخر يبدو في البداية غير ضار.
ومع ذلك ، في الوقت نفسه ، شهدت TikTok موجة من مقاطع الفيديو التي تهدف إلى التورط
ن بعيدًا عن الفيديو. لقد لجأ بعض المستخدمين ومنشئي المحتوى البارزين إلى نشر مقاطع فيديو تحذيرية ، حيث يقولون شيئًا مثل "إذا رأيت هذه الصورة ، فلا تشاهدها ، استمر في التمرير". لقد انتشرت مقاطع الفيديو هذه أيضًا ، والتي يبدو أن الشركة تدعمها.
بالنسبة إلى سبب بث الأشخاص لمقاطع الفيديو هذه في المقام الأول ، للأسف هذا أمر لا مفر منه إلى حد ما. قال بارت أندروز ، كبير المسؤولين الإكلينيكيين في Behavioral Health Response ، وهي منظمة تقدم استشارات عبر الهاتف للأشخاص في أزمات الصحة العقلية: "كل شيء يحدث في الحياة الواقعية سيحدث على منصات الفيديو". "في بعض الأحيان ، لا يكون الفعل مجرد نهاية للحياة. إنه اتصال ، رسالة أخيرة للعالم. ووسائل التواصل الاجتماعي هي وسيلة لإيصال رسالتك إلى ملايين الأشخاص ".
قال دان ريدنبرغ ، المدير التنفيذي لمنظمة غير ربحية SAVE (أصوات التوعية بالانتحار): "لقد اعتاد الناس على عيش حياتهم على الإنترنت ومن خلال وسائل التواصل الاجتماعي". "إنه امتداد طبيعي لشخص قد يكافح ليعتقد أن هذا هو المكان الذي سيضع ذلك فيه." في بعض الأحيان ، كما قال ، يعد وضع هذه الأفكار على وسائل التواصل الاجتماعي أمرًا جيدًا في الواقع ، لأنه يساعد في تحذير الأصدقاء والعائلة من وجود خطأ ما. "لقد بعثوا برسالة استغاثة ، ويحصلون على الكثير من الدعم أو الموارد لمساعدتهم." لسوء الحظ ، ليس هذا هو الحال دائمًا ، ويتم تنفيذ الفعل بغض النظر.
لذلك ، فإن الأمر متروك لمنصات التواصل الاجتماعي للتوصل إلى حلول حول أفضل السبل لمنع مثل هذه الأعمال ، وكذلك لمنع مشاركتها. لسوء الحظ ، فإن Facebook على دراية جيدة بالمشكلة ، حيث حدثت العديد من حوادث الانتحار والقتل على نظام البث المباشر على مدار السنوات القليلة الماضية.
ردود فعل غاضبة على وسائل الإعلام المحلية على فيسبوك مباشرة بينما يحضر زعيم حزب بالانغ براشارات أوتاما سافانايانا مؤتمرا صحفيا خلال الانتخابات العامة في بانكوك ، تايلاند ، 25 مارس ، 2019. رويترز / سوي زيا تونسو زيا تون / رويترز
ومع ذلك ، اتخذ Facebook خطوات للتغلب على هذه المشكلة ، ويعتقد Reidenberg بالفعل أنه الرائد في عالم التكنولوجيا في هذا الموضوع. (لقد كان أحد الأشخاص الذين قادوا تطوير أفضل ممارسات منع الانتحار في صناعة التكنولوجيا.) قدم Facebook أسئلة وأجوبة حول منع الانتحار ، وظف خبيرًا في الصحة والرفاهية لفريق سياسة السلامة ، وقدم قائمة بالموارد كلما يبحث شخص ما عن الانتحار أو إيذاء النفس ، وطرح أداة منع الانتحار القائمة على الذكاء الاصطناعي والتي من المفترض أن تكشف التعليقات التي من المحتمل أن تتضمن أفكارًا عن الانتحار.
قام Facebook حتى بدمج أدوات منع الانتحار في Facebook Live ، حيث يمكن للمستخدمين التواصل مع الشخص وإبلاغ الشركة بالحادث في نفس الوقت. ومع ذلك ، قال Facebook إنه لن يقطع البث المباشر ، لأنه قد "يزيل فرصة ذلك الشخص لتلقي المساعدة". على الرغم من أن هذا مثير للجدل ، إلا أن أندروز يدعم هذه الفكرة. "أفهم أنه إذا كان هذا الشخص لا
يزال على قيد الحياة ، فربما يكون هناك أمل ، ربما هناك شيء يمكن أن يحدث في الوقت الحالي والذي سيمنعه من القيام بذلك."
لكن لسوء الحظ ، كما هو الحال مع McNutt ، هناك أيضًا خطر التعرض والخطأ. والنتيجة يمكن أن تكون مؤلمة. قال Reidenberg: "هناك بعض الحالات التي لم تتقدم فيها التكنولوجيا بالسرعة الكافية لتكون قادرة بالضرورة على إيقاف عرض كل شيء سيء".
قال جويل دفوسكين ، اختصاصي علم النفس السريري في كلية الطب بجامعة أريزونا: "مشاهدة هذه الأنواع من مقاطع الفيديو أمر خطير للغاية". "أحد عوامل الخطر للانتحار هو إذا انتحر شخص ما في عائلتك. الأشخاص الذين تراهم على وسائل التواصل الاجتماعي هم مثل أفراد عائلتك. إذا كان شخص ما مكتئبًا أو ضعيفًا أو فكر في الأمر ، فإن [مشاهدة الفيديو] تجعله أكثر بروزًا كاحتمال ".
صورة ظلية لرجل أمام شاشة فيديو عليها شعار فيسبوك وهو يقف مع كمبيوتر محمول من Dell في هذه الصورة التوضيحية التي تم التقاطها في بلدة زينيكا بوسط البوسنة ، 14 أغسطس 2013. رويترز / دادو روفيتش (البوسنة وهيرزيجوفينا - العلامات: اتصالات الأعمال ) دادو روفيتش / رويترز
بالنسبة إلى ذلك الذكاء الاصطناعي ، يقول كل من Reidenberg و Andrews إنه لم يقم بعمل رائع في استئصال المحتوى الضار. خذ ، على سبيل المثال ، الفشل في تحديد مقطع الفيديو الخاص بإطلاق النار على مسجد كرايست تشيرش لأنه تم تصويره من منظور الشخص الأول أو ببساطة النضال الأخير في اكتشاف وإزالة المعلومات الخاطئة عن COVID-19. بالإضافة إلى ذلك ، بغض النظر عن مدى جودة الذكاء الاصطناعي ، يعتقد أندروز أن الجهات الفاعلة السيئة ستكون دائمًا في المقدمة.
"هل يمكن أن يكون لدينا برنامج ذكاء اصطناعي مؤتمت بالكامل لتحديد المشكلات وإغلاقها؟ قال أندروز: "أعتقد أننا سنتحسن في ذلك ، لكنني أعتقد أنه ستكون هناك دائمًا طرق للتحايل على ذلك وخداع الخوارزمية". "أنا فقط لا أعتقد أنه ممكن ، على الرغم من أنه شيء نسعى جاهدين من أجله."
بدلاً من الاعتماد فقط على الذكاء الاصطناعي ، يقول كل من Reidenberg و Andrews أن مزيجًا من b
القفل والاعتدال البشري هو المفتاح. قال Reidenberg: "علينا الاعتماد على كل ما هو متاح من الذكاء الاصطناعي لتحديد أنه قد يكون هناك بعض المخاطر". "ويحتاج الأشخاص الفعليون مثل المشرفين على المحتوى ومتخصصي السلامة في هذه الشركات إلى محاولة التدخل قبل حدوث شيء سيء"
أما بالنسبة لشركات التواصل الاجتماعي الأحدث ، فهي أيضًا بحاجة إلى التفكير بشكل استباقي في الانتحار. قال Reidenberg: "عليهم أن يسألوا كيف يريدون أن يُعرفوا كمنصة من حيث الصالح الاجتماعي". في حالة TikTok ، يأمل أن تتحد مع شركة مثل Facebook التي لديها خبرة أكبر في هذا المجال. حتى إذا تم بث الفيديو على Facebook ، فإنه لم ينتشر على Facebook لأنه تمكن من قفله (لا يزال بإمكان الشركة القيام بعمل أفضل بكثير في أن تكون أكثر استباقية في إزالتها قبل ذلك بكثير) .
يتم عرض شعار TikTok عن قرب على شاشة الهاتف والهاتف الذكي ولوحة المفاتيح في هذا الرسم التوضيحي متعدد التعريضات Tik Tok هي خدمة شبكات اجتماعية صينية لمشاركة الفيديو مملوكة لشركة ByteDance لتكنولوجيا الإنترنت ومقرها بكين. يتم استخدامه لإنشاء مقاطع فيديو قصيرة للرقص ومزامنة الشفاه والكوميديا والموهبة. أطلقت ByteDance تطبيق TikTok لنظامي iOS و Android في عام 2017 وقبل ذلك في سبتمبر 2016 Douyin للسوق في الصين. أصبح TikTok التطبيق الأكثر تنزيلًا في الولايات المتحدة في أكتوبر 2018. رئيس الولايات المتحدة الأمريكية دونالد ترامب يهدد ويخطط لحظر تطبيق مشاركة الفيديو الشهير TikTok من الولايات المتحدة بسبب المخاطر الأمنية. ثيسالونيكي ، اليونان - 1 أغسطس 2020 (تصوير نيكولاس إيكونومو / نور فوتو عبر غيتي إيماجز) نور فوتو عبر غيتي إيماجز
يجب أن تبدأ أي منصة جديدة من الدروس المستفادة من الأنظمة الأساسية القديمة. قال أندروز: "ما يصلح وما لا يصلح وما نوع البيئة التي نريد إنشاءها لمستخدمينا". "لديك التزام بالتأكد من أنك تنشئ بيئة ومعايير وأن لديك آليات لإعداد التقارير وخوارزميات للتأكد من أن البيئة صحيحة مع ما تريد أن تكون عليه بقدر ما يمكنك تحقيقه. يجب عليك تشجيع المستخدمين وتمكينهم عندما يرون أشياء خارجة عن القاعدة ، وأن لديهم آلية للإبلاغ عن ذلك وعليك إيجاد طريقة للرد بسرعة كبيرة على ذلك ".
قد تكمن الإجابة أيضًا في إنشاء مجتمع يعتني بنفسه. أندروز ، على سبيل المثال ، يشعر بالتشجيع بشكل خاص من جراء قيام مجتمع TikTok بتحذير زملائه المستخدمين بشأن الفيديو. قال: "إنها هذه النسخة الرائعة من الأجسام المضادة الخاصة بالإنترنت". "هذا مثال رأينا فيه أسوأ ما في الإنترنت ، لكننا رأينا أيضًا أفضل ما في الإنترنت. هؤلاء هم الأشخاص الذين ليس لديهم مصلحة في القيام بذلك ، ويحذرون الآخرين ، لكنهم بذلوا قصارى جهدهم لحماية المستخدمين الآخرين من هذه الصور المؤلمة ".
لهذا السبب ، على الرغم من المأساة والألم ، يعتقد أندروز أن المجتمع سوف يتكيف. قال: "منذ آلاف السنين ، طور البشر سلوكًا بمرور الوقت لمعرفة ما هو مقبول وما هو غير مقبول". "لكننا ننسى أن التكنولوجيا ، والبث المباشر ، كل هذا لا يزال جديدًا جدًا. لقد تفوقت التكنولوجيا أحيانًا على مؤسساتنا والأعراف الاجتماعية. ما زلنا نصنعهم ، وأعتقد أنه من الرائع أن نفعل ذلك ".
إذا كنت أنت أو أي شخص تعرفه يفكر في الانتحار ، فإن National Suicide Prevention Lifeline هي 1-800-273-8255.