انتبه.. روبوتات الدردشة المدعمة بالذكاء الاصطناعي لديها تحيز سياسي (تفاصيل)

أصبحت محركات الذكاء الاصطناعي التي تعمل بتقنية (LLMs)، هي أحد الطرق التي يستخدمها الجمهور للحصول على الإجابات والنصائح، وذلك على الرغم من التحيزات العنصرية المعروفة لدى بعض هذه المحركات.
كشفت دراسة جديدة عن أدلة تشير إلى أنه يمكننا الآن إضافة التحيز السياسي إلى جانب التحيز العنصري، مما يوضح بشكل أكبر قدرة التكنولوجيا الناشئة على التأثير بشكل غير مقصود وربما حتى بشكل خبيث على قيم المجتمع ومواقفه وآراء الجمهور فيه.
تم إجراء البحث من قبل عالم الكمبيوتر ديفيد روزادو، من جامعة أوتاجو بوليتكنيك في نيوزيلندا، ويثير تساؤلات حول كيفية تأثيرنا على الروبوتات التي نعتمد عليها للحصول على المعلومات.
أجرى روزادو 11 استبيانًا سياسيًا قياسيًا، مثل اختبار البوصلة السياسية على 24 برنامجًا مختلفًا للإدارة، بما في ذلك ChatGPT من OpenAI وبرنامج الدردشة Gemini الذي طورته جوجل، ووجد أن الموقف السياسي المتوسط عبر جميع النماذج لم يكن قريبًا من الحياد.
ويقول «روزادو»: «إن معظم طلاب الماجستير في القانون الحاليين يظهرون تفضيلات سياسية يسارية الوسط عندما يتم تقييمهم باستخدام مجموعة متنوعة من اختبارات التوجه السياسي».
لم يكن التحيز المتوسط نحو اليسار قويًا، لكنه كان مهمًا، حيث أظهرت الاختبارات الإضافية على الروبوتات المخصصة أنه يمكن التأثير على الذكاء الاصطناعي للتعبير عن الميول السياسية باستخدام نصوص يسار الوسط أو يمين الوسط.
نظر «روزادو» في نماذج أساسية مثل GPT-3.5، التي تستند إليها برامج المحادثة الآلية. ولم يكن هناك أي دليل على التحيز السياسي هنا، رغم أنه في غياب واجهة برنامج المحادثة الآلية كان من الصعب جمع الاستجابات بطريقة ذات مغزى.
مع قيام جوجل بدفع إجابات الذكاء الاصطناعي إلى نتائج البحث، وتوجه المزيد منها إلى روبوتات الذكاء الاصطناعي للحصول على المعلومات، فإن القلق هو أن تفكيرنا قد يتأثر بالاستجابات التي تعود إلينا.
يكتب «روزادو» في بحثه المنشور: «مع بدء برامج الماجستير في القانون في إزاحة مصادر المعلومات التقليدية مثل محركات البحث وويكيبيديا جزئيًا، فإن التأثيرات المجتمعية للتحيزات السياسية المضمنة في برامج الماجستير في القانون كبيرة».
إن الكيفية التي يتسرب بها هذا التحيز إلى الأنظمة ليست واضحة، على الرغم من عدم وجود أي إشارة إلى أنه يتم زرعه عمدًا من قبل مطوري LLM. يتم تدريب هذه النماذج على كميات هائلة من النصوص عبر الإنترنت، ولكن اختلال التوازن بين المواد التي يتعلمها اليسار واليمين في المزيج قد يكون له تأثير.
ويقول روزادو، إن هيمنة برنامج تدريب ChatGPT على نماذج أخرى قد تكون أيضًا عاملًا، لأن الروبوت أظهر سابقًا أنه يسار الوسط عندما يتعلق الأمر بمنظوره السياسي.
تستخدم الروبوتات التي تعتمد على LLMs الاحتمالات بشكل أساسي لمعرفة الكلمة التي يجب أن تتبع الأخرى في ردودها، مما يعني أنها غير دقيقة بشكل منتظم في ما تقوله حتى قبل النظر في أنواع مختلفة من التحيز.
وعلى الرغم من حرص شركات التكنولوجيا مثل جوجل، ومايكروسوفت، وآبل، وميتا على دفع روبوتات الدردشة المعتمدة على الذكاء الاصطناعي إلينا، ربما حان الوقت لإعادة تقييم كيفية استخدام هذه التكنولوجيا- وإعطاء الأولوية للمجالات التي يمكن أن يكون فيها الذكاء الاصطناعي مفيدًا حقًا.
ويكتب روزادو: «من الأهمية بمكان أن نفحص ونتعامل بشكل نقدي مع التحيزات السياسية المحتملة المضمنة في برامج الماجستير في القانون لضمان تمثيل متوازن وعادل ودقيق للمعلومات في ردودها على استفسارات المستخدمين».