باحثون من جامعة Bristol يقترحون إطاراً لفحص الذكاء الاصطناعي الطبي بناءً على نموذج اعتماد الأدوية

اقترح باحثون من University of Bristol إطار عمل يتيح للمطورين فحص موثوقية أنظمة الذكاء الاصطناعي المستخدمة في المجالات الطبية بشكل منهجي، حيث استلهموا هذا المقترح من المعايير المتبعة في إيصال الأدوية الجديدة إلى مرحلة الجاهزية للسوق.

أوضح الباحثون أن أنظمة الذكاء الاصطناعي الطبية قد تبدو فعالة في الاختبارات الأولية، لكنها قد تفشل في بيئة العمل السريري اليومية لأنها تعتمد على سمات في بيانات التدريب لا علاقة لها بالتشخيص الفعلي.

يقترح الباحثون حزمة معلوماتية للمطورين تسمى Learning Ensemble، وتتكون من ثلاثة مجالات يجب توثيقها وفحصها قبل تطبيق النظام على المرضى. يتناول المجال الأول حدود النظام، بما في ذلك الأطباء أو العيادات المستهدفة، والأجهزة التي يعمل عليها، وبيانات المرضى المستخدمة في التدريب. واستشهد الباحثون بدراسة من عام 2021 أظهرت فشل نظام للتعرف على مرض كوفيد من خلال صور الأشعة السينية عند نقله إلى عيادة أخرى، لأنه اعتمد على تفاصيل ثانوية في الصور بدلاً من علامات المرض في الرئة.

يركز المجال الثاني على الموثوقية عبر جميع مجموعات المرضى، حيث لا يكفي معدل النجاح المتوسط لأن النظام قد يخطئ بانتظام مع مجموعات معينة. وأشارت دراسة أخرى من عام 2021 إلى أن أنظمة الذكاء الاصطناعي لتحليل صور الأشعة السينية كانت أقل قدرة على اكتشاف الأمراض لدى الفئات السكانية التي تعاني من نقص الرعاية الصحية.

يعتبر الباحثون المجال الثالث هو الأكثر أهمية، وهو مدى ملاءمة النظام للغرض السريري المنشود. فقد يكون النظام فعالاً من الناحية التقنية ولكنه غير مفيد عملياً، مثل نظام صنف مرضى الربو المصابين بالالتهاب الرئوي على أنهم منخفضو مخاطر الوفاة لأنهم يتلقون علاجاً مكثفاً في أقسام الطوارئ، مما جعل النتيجة عديمة القيمة لعمليات فرز المرضى.

يرى المؤلفون أن عملهم يمثل نقطة انطلاق، مؤكدين أن بناء نظام ذكاء اصطناعي طبي موثوق يظل عملية مجهدة تعتمد على التجربة والخطأ، وتتطلب خبرة فنية ومراجعات خارجية وتعديلات مستمرة. ويهدف الإطار المقترح إلى تزويد المطورين بلغة وهيكل مشتركين لتحديد المشكلات في وقت مبكر.