كيف تساعد خوارزميات توصية وسائل التواصل الاجتماعي في نشر الكراهية

في الأسبوع الماضي ، استضاف مجلس الشيوخ الأمريكي عددًا من نواب الرئيس لشركات التواصل الاجتماعي خلال جلسات الاستماع حول المخاطر المحتملة التي يمثلها التحيز والتضخيم الخوارزمي. وبينما انقسم هذا الاجتماع على الفور تقريبًا إلى سيرك حزبي لبث المظالم ، تمكن أعضاء مجلس الشيوخ الديمقراطيون من التركيز قليلاً على كيفية مساهمة خوارزميات التوصيات هذه في انتشار المعلومات المضللة عبر الإنترنت والأيديولوجيات المتطرفة. المشكلات والمزالق التي تطرحها الخوارزميات الاجتماعية معروفة وموثقة جيدًا. لذا ، حقًا ، ما الذي سنفعله حيال ذلك؟
قال الدكتور براندي نونيكي ، مدير CITRIS Policy Lab في جامعة كاليفورنيا في بيركلي: "لذلك أعتقد أنه من أجل الإجابة على هذا السؤال ، هناك أمر حاسم يجب أن يحدث: نحن بحاجة إلى المزيد من الباحثين المستقلين ليكونوا قادرين على تحليل المنصات وسلوكهم" إنجادجيت. تدرك شركات وسائل التواصل الاجتماعي أنها بحاجة إلى أن تكون أكثر شفافية فيما يحدث على منصاتها ، لكنني على قناعة راسخة بأنه من أجل أن تكون هذه الشفافية حقيقية ، يجب أن يكون هناك تعاون بين المنصات ومراجعة الأقران المستقلة ، البحث التجريبي."
إنجاز يمكن تخيله بسهولة أكبر مما يمكن تحقيقه ، للأسف. "هناك مشكلة صغيرة في الوقت الحالي في تلك المساحة حيث تتخذ المنصات تفسيرًا واسعًا للغاية لتشريعات خصوصية البيانات الناشئة مثل اللائحة العامة لحماية البيانات وقانون خصوصية المستهلك في كاليفورنيا والتي لا تمنح الباحثين المستقلين الوصول إلى البيانات بموجب مطالبة حماية خصوصية البيانات وأمنها ".
وحتى تجاهل قضية الصندوق الأسود الأساسية - من حيث "قد يكون من المستحيل معرفة كيف يتخذ الذكاء الاصطناعي الذي استوعب كميات هائلة من البيانات قراراته" ، حسب Yavar Bathaee ، Harvard Journal of Law & Technology - الأعمال الداخلية لهذه غالبًا ما يتم التعامل مع الخوارزميات على أنها أسرار تجارية.
وتابع: "إن الذكاء الاصطناعي الذي يعتمد على خوارزميات التعلم الآلي ، مثل الشبكات العصبية العميقة ، يمكن أن يكون صعب الفهم مثل الدماغ البشري". "لا توجد طريقة مباشرة لرسم خريطة لعملية صنع القرار لهذه الشبكات المعقدة من الخلايا العصبية الاصطناعية."
خذ حالة Compas من عام 2016 كمثال. إن Compas AI عبارة عن خوارزمية مصممة للتوصية بمدة الأحكام للقضاة في القضايا الجنائية بناءً على عدد من العوامل والمتغيرات المتعلقة بحياة المدعى عليه والتاريخ الجنائي. في عام 2016 ، اقترحت منظمة العفو الدولية على قاضي محكمة ولاية ويسكونسن أن يُحكم على إريك لوميس لمدة ست سنوات بسبب "التملص من ضابط" ... لأسباب. أسباب تجارية سرية مسجلة الملكية. بعد ذلك ، رفع لوميس دعوى قضائية ضد الدولة ، بحجة أن الطبيعة الغامضة لعملية صنع القرار في شركة Compas AI انتهكت حقوقه الدستورية في الإجراءات القانونية الواجبة لأنه لا يمكنه مراجعة أحكامها أو الطعن فيها. حكمت المحكمة العليا في ولاية ويسكونسن في النهاية ضد لوميس ، مشيرة إلى أنه كان سيحصل على نفس العقوبة حتى في حالة عدم وجود مساعدة من منظمة العفو الدولية.
لكن الخوارزميات التي توصي بمجموعات فيسبوك
يمكن أن تكون بنفس خطورة الخوارزميات التي توصي بالحد الأدنى من أحكام السجن - خاصة عندما يتعلق الأمر بانتشار التطرف الذي يغزو وسائل التواصل الاجتماعي الحديثة.
"تستخدم منصات وسائل التواصل الاجتماعي الخوارزميات التي تحدد ما يقرأه ويشاهده ويفكر فيه المليارات من الناس كل يوم ، لكننا لا نعرف سوى القليل جدًا عن كيفية عمل هذه الأنظمة وكيف تؤثر على مجتمعنا ،" السناتور كريس كونز (دي ديل). أخبر بوليتيكو قبل جلسة الاستماع. "نسمع بشكل متزايد أن هذه الخوارزميات تضخم المعلومات المضللة ، وتغذي الاستقطاب السياسي وتجعلنا أكثر تشتتًا وعزلة."
بينما ينشر Facebook بانتظام جهوده المستمرة لإزالة منشورات مجموعات الكراهية وتضييق الخناق على تنسيقها باستخدام منصته ، حتى التقارير الداخلية للشركة تجادل بأنها لم تفعل ما يكفي تقريبًا لوقف موجة التطرف على الموقع.
كما أوضحت تاليا لافين ، الصحفية ومؤلفة كتاب Culture Warlords ، أن منصة Facebook كانت بمثابة نعمة لكراهية جهود التجنيد التي تبذلها المجموعات. "في الماضي ، كانت تقتصر على المجلات الورقية ، والتوزيع في عروض الأسلحة أو المؤتمرات حيث كان عليهم أن يتواجدوا نوعًا ما في أماكن مادية مع الناس وكانوا مقتصرين على طرق الأشخاص الذين من المحتمل بالفعل أن يكونوا مهتمين برسالتهم ،" قال إنجادجيت.
من ناحية أخرى ، لا تحتوي خوارزميات توصيات Facebook على مثل هذه القيود - إلا عندما يتم تعطيلها بشكل نشط لمنع حدوث فوضى لا توصف أثناء انتخابات رئاسية مثيرة للجدل.
قال لافين: "بالتأكيد على مدى السنوات الخمس الماضية ، شهدنا هذا الارتفاع المتفشي في التطرف الذي أعتقد أن له حقًا كل ما يتعلق بوسائل التواصل الاجتماعي ، وأنا أعلم أن الخوارزميات مهمة". "لكنهم ليسوا السائق الوحيد هنا."
يشير لافين إلى شهادة جلسة الاستماع من الدكتورة جوان دونوفان ، مدير الأبحاث في كلية كينيدي للإدارة الحكومية بجامعة هارفارد ، ويشير إلى الحل السريع لشبكات الأخبار المحلية المستقلة جنبًا إلى جنب مع صعود
لمنصة وسائط اجتماعية متجانسة مثل Facebook كعامل مساهم.
وتابعت: "لديك هذه المنصة التي يمكنها تقديم معلومات مضللة للملايين على أساس يومي ، بالإضافة إلى نظريات المؤامرة ، فضلاً عن الخطاب المتطرف". "إنه الحجم الهائل الذي ينطوي عليه الأمر الذي له علاقة كبيرة بمكان وجودنا."
للحصول على أمثلة على ذلك ، يحتاج المرء فقط إلى إلقاء نظرة على استجابة Facebook الفاشلة ل Stop the Steal ، وهي حركة عبر الإنترنت ظهرت بعد الانتخابات والتي كان لها الفضل في تأجيج تمرد 6 يناير في مبنى الكابيتول هيل. كما اكتشفت المراجعة الداخلية ، فشلت الشركة في التعرف على التهديد بشكل مناسب أو اتخاذ الإجراءات المناسبة للرد.
أوضح لافين أن إرشادات Facebook موجهة بشكل كبير نحو اكتشاف السلوكيات غير الأصلية مثل البريد العشوائي والحسابات المزيفة وأشياء من هذا القبيل. "لم يكن لديهم مبادئ توجيهية في مكانها الصحيح للأنشطة الحقيقية للأشخاص الذين ينخرطون في التطرف والسلوكيات الضارة تحت أسمائهم."
وتابعت قائلة: "أوقفوا السرقة مثال رائع حقًا على شهور وأشهر من التصعيد من انتشار وسائل التواصل الاجتماعي". "لقد انتشرت نظريات المؤامرة هذه ، وأثارت تأجيج الناس ، ثم تم تنظيم هذا النوع من الأحداث التمهيدية في مدن متعددة حيث كان لديك عنف ضد المارة والمتظاهرين المعارضين. كان لديك أشخاص يظهرون أمام أولئك المدججين بالسلاح ، وخلال فترة زمنية مماثلة ، كانت لديك احتجاجات ضد الإغلاق كانت مدججة بالسلاح أيضًا. وقد أدى ذلك إلى تلقيح متقاطع حقيقي للغاية بين الجماعات المتطرفة المختلفة - من مناهضي التطعيم إلى القوميين البيض - الظهور والتواصل مع بعضها البعض ".
على الرغم من عدم جدواه إلى حد كبير عندما يتعلق الأمر بتكنولوجيا أكثر حداثة من Rolodex ، إلا أن بعض أعضاء الكونجرس مصممون على القيام بهذه المحاولة على الأقل.
الولايات المتحدة - 26 فبراير: النائبة آنا إيشو ، دي-كاليفورنيا ، تستجوب وزير الصحة والخدمات الإنسانية أليكس عازار أثناء إدلائه بشهادته أمام اللجنة الفرعية للصحة التابعة للجنة مجلس النواب للطاقة والتجارة بشأن ميزانية HHS للعام المالي 2021 والإشراف على تفشي فيروس كورونا بريمان عبر Getty Images
في أواخر آذار (مارس) ، أعاد زوجان من النواب الديمقراطيين البارزين في مجلس النواب ، النائبان آنا إيشو (CA-18) وتوم مالينوفسكي (نيوجيرسي 7) ، تقديم قانون حماية الأمريكيين من الخوارزميات الخطرة ، والذي من شأنه أن "يحاسب منصات وسائل التواصل الاجتماعي الكبيرة لتضخيمها الخوارزمي للمحتوى الضار والمتطرف الذي يؤدي إلى العنف في وضع عدم الاتصال ".
"عندما تضخم شركات وسائل التواصل الاجتماعي المحتوى المتطرف والمضلل على منصاتها ، يمكن أن تكون العواقب مميتة ، كما رأينا في السادس من يناير. حان الوقت لكي يتدخل الكونغرس ويحاسب هذه المنصات ". وقال النائب إيشو في بيان صحفي. "لهذا السبب أنا فخور بالشراكة مع النائب مالينوفسكي لتعديل ضيق القسم 230 من قانون آداب الاتصالات ، وهو القانون الذي يحصن شركات التكنولوجيا من المسؤولية القانونية المرتبطة بالمحتوى الذي ينشئه المستخدم ، بحيث تكون الشركات مسؤولة إذا تضخمت خوارزمياتها المعلومات الخاطئة التي يؤدي إلى العنف خارج الإنترنت ".
في الواقع ، يُحمِّل القانون شركة الوسائط الاجتماعية المسؤولية إذا تم استخدام خوارزميتها "لتضخيم أو التوصية بمحتوى ذي صلة مباشرة بقضية تنطوي على تدخل في الحقوق المدنية (42 U.S.C. 1985) ؛ الإهمال لمنع التدخل في الحقوق المدنية (42 U.S.C. 1986) ؛ وفي القضايا المتعلقة بأعمال الإرهاب الدولي (18 U.S.C. 2333) ".
إذا جعله هذا القانون قانونًا ، فقد يثبت أنه عصا قيّمة لتحفيز الرؤساء التنفيذيين لوسائل التواصل الاجتماعي المتمردة ، لكن الدكتور نونيك يصر على ضرورة إجراء مزيد من البحث حول كيفية عمل هذه الخوارزميات في العالم الحقيقي قبل أن نعود إلى هزيمة هؤلاء الموتى. خيل. بل قد يساعد المشرعين على صياغة قوانين تقنية أكثر فعالية في المستقبل.
وأكدت أن "وجود الشفافية والمساءلة لا يفيد الجمهور فحسب ، بل أعتقد أنه يفيد المنصة أيضًا". "إذا كان هناك المزيد من الأبحاث حول ما يحدث بالفعل في نظامهم ، فيمكن استخدام البحث لإبلاغ منصات تنظيم التشريعات المناسبة التي لا تريد أن تكون في وضع يوجد فيه تشريع أو لائحة مقترحة على المستوى الفيدرالي لا تحقق الهدف تمامًا."
"هناك سابقة لتعاون مثل هذا: العلوم الاجتماعية الأولى بين فيسبوك والباحثين ،" تابع نونيك. لكي نتمكن من معالجة هذه المشكلات المتعلقة بتضخيم الخوارزمية ، نحتاج إلى مزيد من البحث ونحتاج إلى هذا البحث المستقل الموثوق به لفهم ما يحدث بشكل أفضل ".