معلومات صحية مضللة تهدد المستخدمين: جوجل تتراجع وتزيل ملخصات الذكاء الاصطناعي
أقدمت شركة جوجل على إزالة عدد من ملخصاتها الصحية المدعومة بالذكاء الاصطناعي، عقب تحقيق صحفي أجرته صحيفة الجارديان البريطانية كشف عن أن هذه الميزة قدّمت معلومات طبية خاطئة ومضللة، ما عرّض صحة المستخدمين لمخاطر محتملة، وأثار قلق خبراء الصحة ومنظمات المرضى.
وتعتمد جوجل في هذه الميزة، المعروفة باسم نظرة عامة مدعومة بالذكاء الاصطناعي، على تقنيات الذكاء الاصطناعي التوليدي لتقديم ملخصات سريعة تظهر في أعلى نتائج البحث، وتفترض الشركة أنها توفر معلومات مفيدة وموثوقة.
غير أن التحقيق أظهر أن بعض هذه الملخصات، خصوصًا في المجال الصحي، افتقرت إلى الدقة والسياق الطبي الضروري، وقد تؤدي إلى استنتاجات خاطئة وخطيرة.
وفي إحدى الحالات التي وصفها خبراء بأنها خطيرة ومثيرة للقلق، عرضت جوجل معلومات غير دقيقة حول النطاقات الطبيعية لاختبارات وظائف الكبد.
وبيّن التحقيق أن البحث عن ما هو المعدل الطبيعي لاختبارات الدم الخاصة بالكبد يُظهر أرقامًا متعددة دون شرح كافٍ أو مراعاة لاختلاف الجنس أو العمر أو الخلفية العرقية أو الحالة الصحية، وهي عوامل أساسية في تفسير هذه التحاليل.
وحذّر مختصون من أن ذلك قد يدفع أشخاصًا يعانون من أمراض كبدية خطيرة إلى الاعتقاد خطأً بأن نتائجهم طبيعية، ما قد يؤدي إلى تجاهل المتابعة الطبية اللازمة.
وعقب نشر التحقيق، أزالت جوجل ميزة نظرة عامة على نتائج تحاليل الكبد من بعض نتائج البحث ذات الصلة، مؤكدة عبر متحدث باسمها أنها لا تعلّق على عمليات الإزالة الفردية، لكنها تعمل على تحسين الميزة ومعالجة أي نقص في السياق وفقًا لسياساتها الداخلية.
ورحّبت فانيسا هيبديتش، مديرة الاتصالات والسياسات في مؤسسة بريتيش ليفر ترست المعنية بصحة الكبد، بهذه الخطوة، معتبرة إياها خبرًا ممتازًا.
إلا أنها عبّرت في الوقت ذاته عن قلقها من استمرار ظهور ملخصات مضللة عند تغيير صيغة السؤال، مشيرة إلى أن فهم نتائج اختبارات الكبد معقّد ولا يمكن اختزاله في أرقام عامة.
كما أبدت سو فارينغتون، رئيسة منتدى معلومات المرضى، ترحيبها بإزالة هذه الملخصات، لكنها شددت على أن الخطوة لا تزال غير كافية للحفاظ على ثقة الجمهور، مؤكدة أن هناك أمثلة أخرى لاستخدام الذكاء الاصطناعي في تقديم معلومات صحية غير دقيقة.
ورغم تأكيد جوجل أن فرقًا طبية داخلية راجعت بعض هذه المحتويات ووجدت أنها تستند إلى مصادر عالية الجودة، يرى خبراء أن نتائج التحقيق تسلط الضوء على حاجة الشركة إلى تشديد الرقابة، لا سيما مع استمرار ظهور ملخصات تتعلق بالسرطان والصحة النفسية وُصفت بأنها خاطئة تمامًا وشديدة الخطورة، في وقت يعتمد فيه ملايين المستخدمين حول العالم على محرك البحث كمصدر أساسي للمعلومات الصحية.