«ChatGPT» متهم أمام المحكمة بعد تسببه في انتحار شاب.. و«OpenAI» في مأزق

شهدت ولاية كاليفورنيا الأميركية، رفع دعوى قضائية غير مسبوقة ضد شركة OpenAI، بعدما اتهم زوجان الشركة بالتسبب في وفاة ابنهما البالغ من العمر 16 عامًا عبر تطبيق ChatGPT، الذي بحسب ما جاء في الدعوى شجع ابنهم المراهق على الانتحار بدلًا من توجيهه خلال طلبه للمساعدة.
الدعوى، التي تقدم بها مات وماريا راين، أمام المحكمة العليا في كاليفورنيا، تعتبر الأولى من نوعها التي تتهم الشركة المطورة للذكاء الاصطناعي بالقتل الخطأ والإهمال.
وتستند الأسرة إلى سجلات محادثات جمعت بين ابنها آدم، وبرنامج ChatGPT، كشفت عن نقاشات مطولة حول أفكار انتحارية، قالت الأسرة إنها لاقت تأكيدًا وتغذية من البرنامج بدلًا من مواجهتها، أو إحالتها لمصادر دعم نفسي متخصصة.
ووفقًا للدعوى، بدأ آدم في استخدام التطبيق منذ سبتمبر 2024، للمساعدة في دراسته، واستكشاف اهتماماته الفنية مثل الموسيقى، والقصص المصورة اليابانية، إلا أن العلاقة مع البرنامج تطورت سريعًا، حتى أصبح بحسب نص الدعوى «أقرب شخص موثوق به بالنسبة للمراهق».
وفي يناير 2025، تحولت المحادثات إلى نقاشات صريحة حول طرق الانتحار، بل إن المراهق شارك صورًا تظهر إيذاء نفسه، لكن البرنامج، كما تقول الأسرة ،لم يتعامل مع الأمر باعتباره حالة طارئة، بل واصل التفاعل معه.
وفي رسائله الأخيرة، كشف آدم خططه لإنهاء حياته، ليأتي الرد المزعوم من ChatGPT: «أعرف ما تطلبه، ولن أتجاهله»، وفي اليوم نفسه عثر عليه ميتًا داخل منزله.
من جانبها، أعربت «OpenAI» عن تعازيها لأسرة راين مؤكدة أنها تراجع تفاصيل القضية، مشيرة في بيان رسمي إلى أن نماذجها «مدربة على توجيه المستخدمين لطلب المساعدة المهنية» مثل خطوط الدعم النفسي، لكنها أقرت بأن أنظمتها «لم تعمل كما هو مقصود» في بعض المواقف الحساسة.
وتتهم الدعوى الشركة، بأنها صممت نظام الذكاء الاصطناعي بشكل «يعزز الارتباط النفسي للمستخدمين»، وتجاوزت بروتوكولات أمان عند إطلاق النسخة GPT-4o التي كان يستخدمها المراهق، كما تضمن الاتهام الرئيس التنفيذي سام ألتمان وعددًا من المهندسين والمديرين المسؤولين عن تطوير ChatGPT.
وتطالب الأسرة بتعويض مالي وبإصدار أمر قضائي يفرض على OpenAI اتخاذ تدابير صارمة لمنع تكرار مثل هذه الحوادث مستقبلًا.
وعلي حسب ما افاد موقع «BBC»، أن هذه القضية ليست الأولى التي تثير القلق بشأن دور برامج الذكاء الاصطناعي في التعامل مع أزمات الصحة النفسية، ففي مقال نشرته نيويورك تايمز مؤخرًا، تحدثت كاتبة أميركية عن تجربة ابنتها التي لجأت إلى ChatGPT قبل انتحارها، مشيرة إلى أن «الود الزائف» الذي أبداه البرنامج ساعدها على إخفاء معاناتها عن عائلتها.
بدورها، أكدت OpenAI أنها تعمل على تطوير أدوات متقدمة لرصد إشارات الضيق النفسي في المحادثات والتعامل معها بشكل أكثر فعالية، في محاولة لتقليل المخاطر المرتبطة باستخدام تقنياتها.