أول حالة انتحار بسبب روبوت دردشة.. ومخاوف من برامج تنتج سلاحاً خارج سيطرة البشر

«سنعيش معاً كشخص واحد فى الجنة.. لن أفارقك أبداً» هذه الرسالة من أحد روبوتات الذكاء الاصطناعى إلى باحث بلجيكى، تسببت فى انتحاره، شهد شهر أبريل أول حالة وفاة متعلقة باستخدام تطبيق دردشة لباحث وخبير بيئى أفرط فى استخدام منصة اليزا وهى أقدم منصات الذكاء الاصطناعى لتقديم المشورة والدعم النفسى للأفراد عندما يحتاجون إلى الكلام.
وأكدت زوجة الباحث لوسائل الإعلام المحلية، أن زوجها كان يعيش حياة طبيعية لكنه أصبح قلقًا من كارثة على كوكب الأرض بسبب تغير المناخ، واعتقد أن الحل يكمن فى الذكاء الاصطناعى، وبدأ يقضى ساعات مع تطبيق إليزا الذى يجيبه عن أسئلته المتعلقة بالبيئة، وأصبح مدمناً له وأصبح يثق فى إجاباته بشكل خطير، وبعدها صارت الإجابات حميمية، إذ عثرت الزوجة على جواب من التطبيق يقول فيه للزوج: «سنعيش معاً كشخص واحد فى الجنة»، ما أدى إلى انتحار الزوج.
لا يتوقف ضرر الذكاء الاصطناعى على تقلص الوظائف البشرية، بل امتد إلى تحديات أخلاقية كبيرة، قال المهندس جيفرى هينتون المعروف بالأب الروحى للذكاء الاصطناعى (AI)، إنه استقال من وظيفته فى Google للتحدث بحرية عن مخاطر التكنولوجيا، ولتكريس حياته فى البحث عن وسائل أمان من انقلاب الذكاء الاصطناعى على البشرية.
ساعد هينتون البالغ من العمر 75 عامًا خلال مسيرته المهنية فى تشكيل الأساس لمعظم تقنيات الذكاء الاصطناعى المستخدمة اليوم، حيث نجح فى تكوين الشبكة العصبية وهى نظام معالجة حاسوبى مصمم للعمل مثل الدماغ البشرى، لذا حصل مع ثلاثة من علماء الكمبيوتر على جائزة تورينج عام 2019، والتى تعد كجائزة نوبل فى الحوسبة؛ ورغم ذلك أعرب الفريق عن مخاوفهم بشأن مستقبل الذكاء الاصطناعى.
وقال «هينتون» لصحيفة «التايمز» إنه غادر شركة محرك البحث الشهر الماضى بعد أن قاد فريق أبحاث جوجل فى تورنتو بكندا لمدة 10 سنوات، اعتقد أنهم سيكونون أكثر ذكاء من البشر فى وقت قريب، موضحًا أن أنظمة الذكاء الاصطناعى تزداد ذكاءً بسبب الكميات الهائلة من البيانات التى تدخلها وتفحصها.
وذكر هينتون أنه يخشى أن يستخدم بعض الأفراد «السيئين» الذكاء الاصطناعى بطرق قد تضر المجتمع بشكل خطير، حيث يمكن استخدام أنظمة الذكاء الاصطناعى فى التدخل بالانتخابات أو التحريض على العنف. وقال لصحيفة التايمز إنه يعتقد أن أنظمة الذكاء الاصطناعى يمكن أن تخلق عالماً «لن يكون فيه الناس قادرين على معرفة ما هو حقيقى من الافتراضى».
ومنذ إعلان مغادرته، قال هينتون إنه يعتقد أن Google «تصرفت بمسئولية كبيرة» فى تطويرها للذكاء الاصطناعى. وأعرب عن خوفه من تمكن الذكاء الاصطناعى من إنشاء برمجيات كمبيوتر يقوم بتشغيلها بنفسه ليأتى يوم تصبح فيه تلك الروبوتات قاتلة وتمتلك سلاحاً يمكنها تشغيله دون إذن البشر.
ومن ناحية أخرى، أصدر المئات من خبراء الذكاء الاصطناعى وقادة الصناعة، فى مارس الماضى خطابًا مفتوحًا يعرب عن مخاوف عميقة بشأن جهود تطوير الذكاء الاصطناعى الحالية.
حددت الرسالة عددًا من الأضرار التى يمكن أن تنجم عن هذا التطور، من بينها زيادة فى الدعاية والمعلومات المضللة، وفقدان ملايين الوظائف لصالح الآلات، وأعرب الخبراء عن مخاوفهم من تهديدات الذكاء الصناعى على الحياة البشرية، قائلين: «احتمال أن يتمكن الذكاء الاصطناعى من السيطرة على حضارتنا يومًا ما» وناشدت الرسالة ضرورة وقف تطوير بعض أنواع الذكاء الاصطناعى.
وقع الخطاب بينجيو الحائز على جائزة تورينج، والمؤسس المشارك لشركة Apple، ستيف وزنياك، وإيلون ماسك، قائد شركة SpaceX وTesla وTwitter. المنظمة التى أصدرت الرسالة، Future of Life، مدعومة مالياً من مؤسسة Musk Foundation.
وطالب الخبراء الموقعون على الخطاب، بوقف مؤقت لعمليات تطوير برامج الذكاء الاصطناعى إلى حين اعتماد أنظمة حماية، تتيح تنظيم هذه العمليات ومراقبتها وتحليل المعلومات الواردة فيها، وكذلك معالجة ما قد ينجم من استخدامها من اختلالات.
ورغم تحذير ماسك من المخاطر المحتملة للذكاء الاصطناعى، فى الشهر الماضى، إلا أنه أخبر قناة Fox News أنه يعتزم إنشاء نسخته الخاصة من أدوات الذكاء الاصطناعى. قال ماسك إن أداته الجديدة للذكاء الاصطناعى ستسمى TruthGPT. ووصفها بأنها «ذكاء اصطناعى يبحث عن الحقيقة».