خطر في محركات البحث.. تحذيرات من نصائح طبية كارثية يقدمها ذكاء جوجل

حذر تحقيق صحفي أجرته صحيفة الجارديان البريطانية من مخاطر متزايدة تتعلق بملخصات البحث المدعومة بالذكاء الاصطناعي التي تقدمها شركة جوجل، مؤكدا أنها قد تعرض صحة المستخدمين للخطر عبر نشر معلومات طبية غير دقيقة أو مضللة، رغم تأكيد الشركة أن خدمتها "مفيدة وموثوقة" .
وأوضح التحقيق أن خدمة AI Overviews، التي تعتمد على الذكاء الاصطناعي التوليدي لتقديم إجابات مختصرة تظهر في أعلى نتائج البحث، عرضت في عدة حالات نصائح صحية وُصفت من قبل خبراء بأنها "خطيرة جدا ". ومن بين أبرز الأمثلة، نصح مرضى سرطان البنكرياس بتجنب الأطعمة الغنية بالدهون، وهو ما يخالف الإرشادات الطبية المعتمدة، وقد يؤدي بحسب مختصين إلى تدهور حالة المرضى وتهديد فرص نجاتهم.
وفي مثال آخر، قدمت الملخصات معلومات مضللة حول تحاليل وظائف الكبد، عبر عرض أرقام عامة دون مراعاة عوامل أساسية مثل العمر أو الجنس أو الخلفية الصحية، الأمر الذي قد يدفع مرضى يعانون من أمراض كبدية خطيرة إلى الاعتقاد خطأً بأن نتائجهم طبيعية، وبالتالي إهمال المتابعة الطبية.
كما أشار التحقيق إلى أن عمليات بحث تتعلق بفحوصات سرطانات النساء أظهرت معلومات "خاطئة تماما" ، من بينها الإيحاء بأن مسحة عنق الرحم تستخدم للكشف عن سرطان المهبل، وهو ما نفته جهات طبية وخيرية متخصصة، محذرة من أن مثل هذه المعلومات قد تدفع النساء إلى تجاهل أعراض خطيرة.
قلق متزايد من تضليل المستخدمين
وتأتي هذه النتائج في ظل مخاوف متزايدة من اعتماد المستخدمين بكثرة على مخرجات الذكاء الاصطناعي، وافتراضهم دقتها، خاصة في لحظات القلق والأزمات الصحية. وكانت دراسات سابقة قد أظهرت أن أدوات الذكاء الاصطناعي قدمت نصائح مالية غير دقيقة، إلى جانب ملاحظات على ملخصات الأخبار.
وقالت صوفي راندال، مديرة منتدى معلومات المرضى، إن وضع معلومات صحية غير دقيقة في أعلى نتائج البحث "يمثل خطر مباشر على صحة الناس" . بدورها، أكدت ستيفاني باركر، المسؤولة في مؤسسة "ماري كوري" الخيرية، أن الحصول على معلومات طبية خاطئة أو منزوعة السياق قد يؤدي إلى "أضرار جسيمة" على صحة الأفراد.
كما أعربت مؤسسات متخصصة في السرطان والصحة النفسية عن قلقها من تغير إجابات الذكاء الاصطناعي عند تكرار البحث نفسه، ما يعني ،علي حد قولهم أن المستخدم قد يحصل على إجابات مختلفة في كل مرة، وهو أمر "غير مقبول " في القضايا الصحية الحساسة.
رد جوجل
من جانبها، أكدت جوجل أن الغالبية العظمى من ملخصات الذكاء الاصطناعي التي تقدمها دقيقة ومفيدة، مشيرة إلى أنها تستثمر بشكل كبير في تحسين الجودة، خاصة في الموضوعات الصحية.
وأوضحت الشركة أن دقة هذه الملخصات تضاهي دقة ميزات البحث الأخرى مثل "المقتطفات المميزة"، مؤكدة أنها ستتخذ الإجراءات اللازمة إذا أسيء تفسير محتوى الويب أو أغفل السياق.
ورغم هذه التأكيدات، يرى خبراء ومختصون أن القضية تفتح نقاش كبير حول مسؤولية شركات التكنولوجيا في تقديم معلومات صحية موثوقة، وضرورة عدم الاعتماد على الذكاء الاصطناعي كبديل عن الاستشارة الطبية المتخصصة.