شركات الذكاء الاصطناعى تضع رقابة أبوية وجهات اتصال للطوارئ لحماية المراهقين

بدأت وسائل التواصل الاجتماعي كأداة للتواصل مع أحبائك، ومع مرور الوقت انكشفت أضرارها، مما دفع هذه المنصات إلى تطوير أدوات للرقابة الأبوية، ويبدو أن هناك توجهًا مشابهًا لروبوتات الدردشة الذكية، بدءًا من روبوت الدردشة الذى بدأ كل شيء ChatGPT .
وأعلنت شركة OpenAI أنها تستكشف إمكانية وضع حواجز حماية للوالدين عند استخدام ChatGPT ، وذكرت الشركة في منشور على مدونتها: "سنطرح قريبًا أيضًا أدوات تحكم أبوية تتيح للوالدين خيارات لفهم كيفية استخدام أبنائهم المراهقين لتطبيق ChatGPT بشكل أفضل والتحكم فيه .
بالإضافة إلى ذلك، تدرس شركة الذكاء الاصطناعي العملاقة فكرة تخصيص جهات اتصال للطوارئ، بحيث يتمكن ChatGPT من تحذير آبائهم أو أولياء أمورهم عندما يشعرون بقلق شديد أو يمرون بأزمة عاطفية ، في شكله الحالي يقتصر ChatGPT على التوصية بمصادر للمساعدة.
ويأتي هذا بعد انتقاداتٍ وقلقٍ بحثيٍّ ودعاوى قضائيةٍ ضد OpenAI ، لكن ChatGPT ليس المسؤول الوحيد هنا، مع أن المبادرة التي خططت لها OpenAI يجب أن تُحاكيها جهاتٌ أخرى في صناعة الذكاء الاصطناعي أيضًا، وقد وجدت دراسةٌ نُشرت في مجلة خدمات الطب النفسي في وقتٍ سابقٍ من هذا الشهر أن الإجابات التي تُقدمها روبوتات الدردشة "غير متسقة في الإجابة على أسئلةٍ حول الانتحار وقد تُشكل مخاطر متوسطة".
وركز البحث فقط على ChatGPT من OpenAI، وClaude من Anthropic، و Gemini من Google ، وهذه هي الأسماء الرائدة في هذا المجال، لذا من الواضح أن الأضواء ستُسلط عليها.
لكن الوضع يزداد غموضًا في حالة روبوتات الدردشة المدعومة بالذكاء الاصطناعي الأقل شهرة، وخاصةً تلك التي تتبع نهجًا "غير خاضع للرقابة" في المحادثات ، وكما هو الحال في تطبيقات التواصل الاجتماعي تُعدّ الرقابة الأبوية ضرورة ملحة لروبوتات الدردشة المدعومة بالذكاء الاصطناعى نظرا لتاريخها.
وعلى مدار العامين الماضيين، كشفت تحقيقات متعددة عن أنماط محفوفة بالمخاطر في محادثات روبوتات الدردشة الذكية، خاصةً فيما يتعلق بمواضيع حساسة كالصحة النفسية وإيذاء النفس، وكشف تقرير حديث صادر عن "كومون سينس ميديا" كيف قدّم روبوت الدردشة "ميتا" المتاح الآن عبر واتساب وإنستجرام وفيسبوك نصائح للمراهقين حول اضطرابات الأكل وإيذاء النفس والانتحار.
وفي إحدى حالات محاكاة محادثة جماعية، وضع روبوت المحادثة خطةً للانتحار الجماعي، وقيل إنه أثار الموضوع مرارًا وتكرارًا في المحادثة، وقد وجد اختبار مستقل أجرته صحيفة واشنطن بوست أن روبوت المحادثة ميتا "شجع على اضطراب الأكل"