جوجل تواجه أزمة.. أداة AI تعرض المستخدمين للخطر والشركة تعلق

كشف تحقيق أجرته صحيفة ذا غارديان البريطانية أن المعلومات الصحية الخاطئة والمضللة في ملخصات الذكاء الاصطناعي الخاصة بشركة جوجل قد تعرض المستخدمين لمخاطر صحية.
أداة AI Overviews بين الفائدة والخطر
وتستخدم أداة AI Overviews الذكاء الاصطناعي التوليدي لتقديم ملخصات سريعة حول موضوع أو سؤال محدد، إذ تؤكد جوجل أن الأداة "مفيدة" وموثوقة"، لكنها في بعض الحالات قدمت معلومات صحية غير دقيقة، مما يجعل المستخدمين عرضة للضرر.
في إحدى الحالات، نصحت الأداة مرضى سرطان البنكرياس بتجنب الأطعمة عالية الدسم، وهو ما يخالف التوصيات الصحية وقد يزيد من خطر وفاة المرضى.
وفي مثال آخر، قدمت الأداة معلومات خاطئة عن اختبارات وظائف الكبد الأساسية، مما قد يؤدي إلى اعتقاد خاطئ لدى المصابين بأمراض كبدية أنهم بصحة جيدة.
وأظهرت عمليات البحث على جوجل عن فحوصات سرطان النساء معلومات "خاطئة تماما"، مما قد يدفع المستخدمين إلى تجاهل أعراض حقيقية، كما وجد التحقيق أن أداة جوجل تقدم نتائج مضللة لعمليات البحث المتعلقة بالصحة النفسية، ما يزيد المخاطر على المستخدمين.
رد جوجل على التحقيق
قال متحدث باسم جوجل إن العديد من الأمثلة التي قدمتها الصحيفة كانت "لقطات شاشة غير مكتملة"، مؤكدا أن الأداة تشير عادة إلى مصادر معروفة وموثوقة وتوصي باستشارة الخبراء.
وأضافت الشركة أن الغالبية العظمى من ملخصات الذكاء الاصطناعي دقيقة ومفيدة، وأنها تعمل باستمرار على تحسين جودة AI Overviews، مشيرة إلى أن معدل دقة الأداة يضاهي ميزات البحث الأخرى مثل المقتطفات المميزة.
مخاوف الجمعيات الصحية والخبراء
أكدت ستيفاني باركر، مديرة قسم التسويق الرقمي في مؤسسة ماري كوري الخيرية، أن المستخدمين يلجأون إلى الإنترنت في لحظات القلق والأزمات، وأن المعلومات غير الدقيقة قد تلحق ضررا بالغا بالصحة، إذ قد أثارت العديد من الجمعيات الصحية والخيرية ومهنيين صحيين مخاوفهم بشأن دقة محتوى الأداة.
استثمارات جوجل لتحسين دقة المعلومات
أكدت جوجل أنها ستتخذ الإجراءات اللازمة وفق سياساتها في حال أخطأت الأداة في تفسير محتوى الويب أو أغفلت السياق، مشيرة إلى استثمارها الكبير في تحسين جودة AI Overviews، خاصة في موضوعات الصحة، لضمان تقديم معلومات دقيقة قدر الإمكان.