البحث بالذكاء الاصطناعي يضلل المرضى: تحذيرات من معلومات صحية غير دقيقة

المعلومات الصحية المضللة بالذكاء الاصطناعي تشكل خطرًا حقيقيًا على حياة الأفراد، هذا ما حذر منه تقرير نشرته صحيفة “الجارديان”، حيث سلط الضوء على المخاطر المحتملة الناتجة عن الاعتماد على ملخصات البحث التي تعتمد على الذكاء الاصطناعي في الحصول على معلومات طبية.

تضليل الذكاء الاصطناعي: أمثلة خطيرة للمعلومات الصحية المضللة

أظهرت بعض الأمثلة كيف يمكن للمعلومات الصحية المضللة بالذكاء الاصطناعي أن تعرض حياة المرضى للخطر، ففي إحدى الحالات الخطيرة، نصحت نتائج البحث مرضى سرطان البنكرياس بتجنب الأطعمة الغنية بالدهون، وهو ما يتعارض تمامًا مع التوصيات الطبية الصحيحة ويزيد من خطر الوفاة، هذا التضليل الصادر من الذكاء الاصطناعي دفع آنا جويل، مديرة الدعم والبحث والتأثير في مؤسسة سرطان البنكرياس في المملكة المتحدة، إلى التأكيد على أن هذه النصيحة “خاطئة تمامًا” و”قد تكون خطيرة للغاية”.

وقالت جويل: “تشير استجابة الذكاء الاصطناعي إلى أن مرضى سرطان البنكرياس يجب أن يتجنبوا الأطعمة الغنية بالدهون، وتقدم قائمة بأمثلة عليها؛ مع ذلك، إذا اتبع شخص ما ما نصحته به نتائج البحث، فقد لا يحصل على سعرات حرارية كافية، ويواجه صعوبة في زيادة وزنه، وقد لا يتمكن من تحمل العلاج الكيميائي أو الجراحة التي قد تنقذ حياته”، وفي مثال آخر مثير للقلق، قدمت نتائج البحث معلومات غير دقيقة حول اختبارات وظائف الكبد، مما قد يدفع المرضى المصابين بأمراض الكبد الخطيرة إلى الاعتقاد بأنهم أصحاء؛ وأوضحت باميلا هيلي، الرئيسة التنفيذية لمؤسسة الكبد البريطانية، أن هذا الأمر “خطير لأنه يعني أن بعض الأشخاص المصابين بأمراض الكبد الخطيرة قد يعتقدون أن نتائجهم طبيعية، وبالتالي لا يكلفون أنفسهم عناء حضور اجتماع متابعة الرعاية الصحية”.

لماذا تتسبب بيانات الذكاء الاصطناعي في معلومات صحية مضللة؟

إن المخاوف بشأن المعلومات الصحية المضللة بالذكاء الاصطناعي تتزايد باستمرار، ففي نوفمبر من العام الماضي، كشفت دراسة أن برامج الدردشة الآلية التي تعمل بالذكاء الاصطناعي تقدم نصائح مالية غير دقيقة؛ وعلى صعيد آخر، ذكرت صوفي راندال، مديرة منتدى معلومات المرضى، أن “نظرة عامة الذكاء الاصطناعي من جوجل يمكن أن تضع معلومات صحية غير دقيقة في أعلى نتائج البحث عبر الإنترنت، مما يشكل خطراً على صحة الناس”، وبينما يلجأ الكثيرون إلى الإنترنت للحصول على معلومات طبية في لحظات القلق والأزمات، فإن المعلومات غير الدقيقة أو الخارجة عن السياق يمكن أن تضر بصحتهم ضررًا بالغًا، هذا ما أكدته ستيفاني باركر، مديرة قسم الإعلام الرقمي في مؤسسة ماري كوري الخيرية المعنية برعاية المرضى.

ووجدت صحيفة الغارديان أيضًا أن خدمة “نظرة عامة على الذكاء الاصطناعي من جوجل” تقدم نتائج مضللة لعمليات البحث المتعلقة بحالات الصحة النفسية، وقال ستيفن باكلي، رئيس قسم المعلومات في مؤسسة “مايند”: “هذا الأمر يثير قلقنا البالغ كمؤسسة خيرية”، وأضاف أن بعض ملخصات الذكاء الاصطناعي لحالات مثل الذهان واضطرابات الأكل قدمت “نصائح خطيرة للغاية” وكانت “غير صحيحة أو ضارة أو يمكن أن تدفع الناس إلى تجنب طلب المساعدة”.

جوجل تدافع عن ملخصات الذكاء الاصطناعي رغم المعلومات الصحية المضللة

على الرغم من هذه المخاوف بشأن المعلومات الصحية المضللة، أكدت جوجل أن الغالبية العظمى من ملخصات الذكاء الاصطناعي التي تقدمها تتسم بالدقة والفائدة، وأنها تعمل باستمرار على تحسين جودتها، وأضافت أن معدل دقة هذه الملخصات يضاهي معدل دقة ميزات البحث الأخرى لديها، مثل المقتطفات المميزة التي كانت متاحة لأكثر من عقد من الزمان، وقالت الشركة أيضًا إنه عندما يسيء برنامج AI Overviews تفسير محتوى الويب أو يغفل السياق، فإنه سيتخذ الإجراءات المناسبة وفقًا لسياساته.

وقال متحدث باسم جوجل: “نستثمر بشكل كبير في جودة مراجعات الذكاء الاصطناعي، لا سيما في مواضيع مثل الصحة، والغالبية العظمى منها تقدم معلومات دقيقة”؛ ومع ذلك، يبقى السؤال قائمًا: كيف يمكن ضمان حصول المستخدمين على معلومات صحية دقيقة وموثوقة في ظل التطور السريع للذكاء الاصطناعي وانتشاره في مجال البحث عن المعلومات؟

المؤسسة	الرأي حول معلومات الذكاء الاصطناعي
مؤسسة سرطان البنكرياس في المملكة المتحدة	تحذر من النصائح الخاطئة المتعلقة بتجنب الدهون لمرضى سرطان البنكرياس
مؤسسة الكبد البريطانية	تؤكد أن المعلومات غير الدقيقة قد تدفع المرضى للاعتقاد بأنهم أصحاء
مؤسسة ماري كوري الخيرية	توضح أن المعلومات غير الدقيقة أو الخارجة عن السياق قد تضر بصحة المرضى

لضمان سلامة المستخدمين، من الضروري التأكد من مصادر المعلومات الطبية والتحقق من دقتها قبل اتخاذ أي قرارات صحية بناءً عليها، وينبغي على الشركات التي تطور تقنيات الذكاء الاصطناعي أن تولي اهتمامًا خاصًا لجودة المعلومات التي تقدمها وأن تعمل باستمرار على تحسين دقتها وموثوقيتها.