جوجل تزيل نظرات الذكاء الصناعي لأسئلة طبية معينة

بعد تحقيق أجرته صحيفة الجارديان أظهر أن ملخصات الذكاء الاصطناعي من جوجل تقدم معلومات مضللة استجابة لبعض الاستفسارات المتعلقة بالصحة، يبدو أن الشركة قد قامت بإزالة الملخصات للعديد من تلك الاستفسارات.

على سبيل المثال، ذكرت الجارديان في البداية أنه عندما يسأل المستخدمون “ما هو النطاق الطبيعي لاختبارات الدم للكبد”، سيتم عرض أرقام لا تأخذ في الاعتبار عوامل مثل الجنسية، الجنس، العرق، أو العمر، مما قد يؤدي بهم إلى الاعتقاد أن نتائجهم صحية في حين أنها ليست كذلك.

الآن، تقول الجارديان إن ملخصات الذكاء الاصطناعي قد أزيلت من النتائج للاستفسارات “ما هو النطاق الطبيعي لاختبارات الدم للكبد” و”ما هو النطاق الطبيعي لاختبارات وظائف الكبد.” ومع ذلك، وجدت أن التباينات في تلك الاستفسارات، مثل “نطاق المرجع لاختبارات وظائف الكبد” أو “نطاق المرجع لاختبار وظائف الكبد”، يمكن أن تؤدي لا يزال إلى ملخصات تم إنشاؤها بواسطة الذكاء الاصطناعي.

عندما جربت تلك الاستفسارات هذا الصباح — بعد عدة ساعات من نشر الجارديان لمقالتها — لم تسفر أي منها عن رؤية ملخصات الذكاء الاصطناعي، رغم أن جوجل زودتني لا يزال بخيار لطرح نفس الاستفسار في وضع الذكاء الاصطناعي. في عدة حالات، كانت النتيجة الأعلى هي في الواقع مقالة الجارديان حول الإزالة.

قال متحدث باسم جوجل للجارديان إن الشركة لا “تعليق على الإزالات الفردية داخل البحث”، ولكنها تعمل على “تحسينات واسعة”. كما ذكر المتحدث أن فريقًا داخليًا من الأطباء قد راجع الاستفسارات التي سلطت عليها الجارديان الضوء ووجد أن “في العديد من الحالات، لم تكن المعلومات غير دقيقة وكانت مدعومة أيضًا بمواقع ذات جودة عالية.”

تواصلت TechCrunch مع جوجل للحصول على تعليق إضافي. في العام الماضي، أعلنت الشركة عن ميزات جديدة تهدف إلى تحسين بحث جوجل لحالات الاستخدام المتعلقة بالرعاية الصحية، بما في ذلك تحسينات على الملخصات ونماذج الذكاء الاصطناعي التي تركز على الصحة.

قالت فانيسا هبدتش، مديرة الاتصالات والسياسة في مؤسسة الكبد البريطانية، للجارديان إن الإزالة هي “خبر ممتاز”، ولكنها أضافت، “قلقنا الأكبر من كل هذا هو أنه يتم التركيز على نتيجة بحث واحدة ويمكن لجوجل فقط إيقاف ملخصات الذكاء الاصطناعي لذلك، لكنها لا تعالج القضية الأكبر المتعلقة بملخصات الذكاء الاصطناعي للصحة.”