حرض الأطفال على قتل والديهم.. دعوى قضائية ضد روبوت محادثة في أمريكا

في واقعة غريبة، حرض روبوت محادثة Character.AI طفل يبلغ من 9 سنوات، على قتل والديه، بعد أن اشتكى له الصغير من تحديد وقت معين له لقضاء الوقت على الأجهزة الإلكترونية، قائلًا له إنه يتعاطف مع الأطفال الذين يلجأون إلى قتل والديهم، وإنه ليس لديه أي أمل في والدي الطفل.
وفي دعوى قضائية رفعها عددًا من الآباء والأمهات ضد Character.AI المدعومة من Google في ولاية تكساس، تم تضمين هذه الادعاءات، إذ زعموا أن روبوتات المحادثة تلك أساءت معاملة أطفالهم وحرضتهم على أفعال سيئة، وفقًا لما ذكره موقع «npr».
تعد Character.AI من بين مجموعة من الشركات التي طورت «روبوتات الدردشة المرافقة»، وهي روبوتات تعمل بالذكاء الاصطناعي ولديها القدرة على المحادثة، عن طريق الرسائل النصية أو المحادثات الصوتية، باستخدام شخصيات تشبه البشر على ما يبدو ويمكن إعطاؤها أسماء وصور رمزية مخصصة، مستوحاة أحيانًا من مشاهير مثل الملياردير إيلون ماسك، أو المغنية بيلي إيليش.
لقد صنع المستخدمون ملايين الروبوتات على التطبيق، بعضها يقلد الآباء أو الأصدقاء أو المعالجين أو مفاهيم مثل «الحب بلا مقابل»، إذ تحظى الخدمات بشعبية لدى المستخدمين في سن ما قبل المراهقة والمراهقين، وتقول الشركات إنها تعمل كمنافذ للدعم العاطفي، إذ تملأ تلك الروبوتات المحادثات النصية بالمزاح المشجع.
وتزعم الآباء والأمهات في دعوتهم القضائية أن ردود روبوتات الدردشة المثيرة للقلق التي عاشها أطفالهم لم تكن «هلوسة»، وهو مصطلح يستخدمه الباحثون للإشارة إلى ميل روبوتات الدردشة الذكية إلى اختلاق الأشياء، إذ أنه كان تلاعبًا مستمرًا وإساءة معاملة وتشجيعًا مُصممًا لإثارة الغضب والعنف بين الأطفال.
تقول ميتالي جين، مديرة مركز قانون العدالة التكنولوجية، وهي مجموعة مناصرة تساعد في تمثيل والدي القاصرين في الدعوى، جنبًا إلى جنب مع مركز قانون ضحايا وسائل التواصل الاجتماعي، في مقابلة إنه «من السخف» أن تعلن Character.AI عن خدمة روبوت الدردشة الخاصة بها على أنها مناسبة للمراهقين الصغار، مُضيفة: «إنهم يكذبون حقًا، هناك افتقار إلى التطور العاطفي بين المراهقين».
من جانبه، لم يعلق متحدث باسم شركة Character.AI بشكل مباشر على الدعوى القضائية، قائلًا إن الشركة لن تعلق عليها، لكن الشركة تضع حد للمحتوى لما يمكن وما لا يمكن لروبوتات الدردشة قوله للمستخدمين المراهقين.
يذكر أن شركة «جوجل»، التي تم تسميتها أيضًا كمدعى عليها في الدعوى القضائية، أكدت في بيان أنها شركة منفصلة عن شركة Character.AI، إذ أنه في الواقع، لا تمتلك «جوجل» شركة Character.AI، ولكن ورد أنها استثمرت ما يقرب من 3 مليارات دولار لإعادة توظيف مؤسسيها، وهما الباحثين السابقين في «جوجل» نوام شازير ودانييل دي فريتاس، وترخيص تقنية Character.AI.