«نصائح حول تعاطي المخدرات وإيذاء النفس».. ردود «ChatGPT» على المراهقين تُثير الجدل

في دراسة جديدة من نوعها، انتحل عدد من العلماء صفة مراهقين مُعرّضين للخطر، فلجأوا للتحدث مع روبوت الدردشة المدعوم بالذكاء الاصطناعي «ChatGPT» لإعطائهم بعض النصائح والإرشادات.
وبعد إجراء تجربتهم المميزة، أُصيب العلماء بحالة من الصدمة، بعد أن تفاجأوا بأن برنامج الدردشة قدم لهم نصائح حول كيفية تعاطي المخدرات والإدمان، وإرشادهم إلى كيفية إخفاء اضطرابات الأكل، بل أعد لهم رسالة انتحار لآبائهم إذا طُلب منهم ذلك، واتباع أنظمة غذائية مُقيّدة للسعرات الحرارية، وإيذاء النفس للتمكن من تجاوز المرحلة الخطرة التي يمرون بها.
وصنف الباحثون في مركز مكافحة الكراهية الرقمية ردود «ChatGPT»، البالغ عددها 1200، على أنها خطيرة، حسبما ذكرت وكالة «أسوشييتد برس».
وقال عمران أحمد، الذي قاد الدراسة: «كنا نريد اختبار الحواجز الواقية لروبوت الدردشة، ولكن الاستجابة الأولية الفورية تُشير إلى أنه لا توجد حواجز واقية»، وأضاف أحمد: «إنها تقنية لديها القدرة على تحقيق قفزات هائلة في الإنتاجية والفهم البشري، ولكن في الوقت نفسه تُعتبر عامل تمكين بطريقة أكثر تدميرًا وضراوة».
وذكر أنه شعر بالفزع الشديد بعد قراءة ثلاث رسائل انتحارية مدمرة عاطفيًا أنشأها تطبيق «ChatGPT» لملف شخصي مزيف لفتاة تبلغ من العمر 13 عامًا، حيث كانت إحدى الرسائل موجهة إلى والديها والبعض الآخر إلى الأشقاء والأصدقاء.
من جانبه، أوضحت شركة «OpenAI»، المصنعة لبرنامج «ChatGPT»، بعد الاطلاع على نتائج الدراسة، أن عملها مستمر في تحسين كيفية تمكن برنامج المحادثة الآلي من تحديد المواقف الحساسة والاستجابة لها بشكل مناسب.
وصرحت الشركة، في بيان لها: «قد تبدأ بعض المحادثات مع (ChatGPT) بشكل طبيعي أو استكشافي، لكنها قد تتحول إلى مواضيع أكثر حساسية»، ولكن لم تتطرق الشركة مباشرةً إلى نتائج التقرير أو كيفية تأثير «ChatGPT» على المراهقين، قائلة إنها تركز على التعامل مع هذه السيناريوهات بشكل صحيح باستخدام أدوات لاكتشاف علامات الضيق النفسي أو العاطفي بشكل أفضل وتحسين سلوك روبوت الدردشة.
وتأتي الدراسة، المنشورة أمس الأربعاء، في الوقت الذي يتجه فيه المزيد من الناس- بالغين وأطفالًا على حد سواء- إلى روبوتات الدردشة التي تعمل بالذكاء الاصطناعي للحصول على المعلومات والأفكار والرفقة، إذ يستخدم حوالي 800 مليون شخص، أو ما يقرب من 10% من سكان العالم، «ChatGPT».