خلفت جائحة كوفيد-19 أثرًا عالميًا وحالة طوارئ غير مسبوقة في الرعاية الصحية والقطاعات الأمامية المرتبطة بها، وطُورت نماذج ذكاء اصطناعي متنوعة لإدارة الموارد الطبية بفعالية وتحديد المرضى الأعلى خطرًا، غير أن كثيرًا من هذه النماذج ظل محدود القابلية للتطبيق العملي عالي الخطر بسبب طبيعته الصندوقية المغلقة، أي افتقاره إلى قابلية التفسير التي تتيح فهم كيفية وصوله إلى قراراته
ولمعالجة هذه المشكلة ظهر الذكاء الاصطناعي القابل للتفسير هادفًا إلى استكشاف سلوك الصندوق المغلق في نماذج التعلم الآلي وتقديم أدلة قاطعة وقابلة للتفسير البشري، بما يعزز الثقة في التنفيذ الناجح لأنظمة الذكاء الاصطناعي في البيئات الواقعية، وتندرج هذه الدراسة في هذا التوجه مطبقة إياه على بيانات مرضى هنود، وتستند مهمة التنبؤ فيها إلى تحليل الأعراض المسجلة للمرضى بوصفها مدخلات تصنيف لشدة الحالة
وتتضاعف أهمية التفسيرية في المجال الصحي تحديدًا لأن كلفة الخطأ الخوارزمي ليست مالية فقط بل سريرية وأخلاقية، فقرار تصنيف مريض ضمن الشدة العالية أو المنخفضة يرتب أولويات العلاج والموارد، ولا يستطيع الطبيب المسؤول تبني قرار لا يفهم منطقه أو الدفاع عنه أمام المريض والمؤسسة، ما يجعل الشفافية شرط قبول مهني وقانوني لا تفضيلًا تقنيًا
أولًا: أهداف الدراسة ومنهجيتها
هدفت الدراسة إلى استكشاف استخدام أدوات الذكاء الاصطناعي القابل للتفسير المستقلة عن النموذج، مثل قيم شابلي الجمعية المعروفة اختصارًا بشاب والتفسيرات المحلية المستقلة عن النموذج المعروفة بلايم، في تحليل أعراض كوفيد-19 لدى المرضى الهنود نحو مهمة التنبؤ بشدة المرض، ووظفت نماذج تعلم آلي متنوعة شملت مصنف شجرة القرار ومصنف إكس جي بوست ومصنف الشبكة العصبية لبناء النماذج التنبؤية التي خضعت تحليلاتها للتفسير
ثانيًا: أبرز النتائج
أظهرت التحليلات التفسيرية قيمة مضافة واضحة لهذه الأدوات، ومن أبرز النتائج ما يأتي
النتيجة الأولى: وجدت أدوات الذكاء الاصطناعي القابل للتفسير المقترحة معززة للأداء العالي لأنظمة الذكاء الاصطناعي بأدلة واستدلالات قابلة للتفسير البشري، كما ظهر من تفسير المخططات التفسيرية المتنوعة
النتيجة الثانية: أبرز التحليل المقارن أهمية أدوات التفسير وأثرها داخل السياق الصحي، إذ تجعل قرارات النماذج قابلة للفحص والمناقشة من قبل الممارسين الصحيين بدل قبولها قبولًا أعمى
النتيجة الثالثة: تشير الدراسة إلى أن تحليلات شاب ولايم أساليب واعدة لدمج قابلية التفسير في تطوير النماذج، بما يقود مستقبلًا إلى نماذج تعلم آلي أفضل وأجدر بالثقة في التطبيقات الصحية عالية الخطر
ثالثًا: دلالات الدراسة وتطبيقاتها
وتوجه هذه النتائج مطوري الأنظمة الصحية الذكية إلى جعل التفسيرية مكوّنًا أصيلًا في بناء النماذج التنبؤية لا إضافة لاحقة، وبخاصة في مهام فرز المرضى وتقدير الشدة التي تمس قرارات سريرية حساسة، كما تعين المؤسسات الصحية على تقويم النماذج المرشحة للاعتماد بمعايير تتجاوز الدقة إلى الشفافية وقابلية المساءلة
وتفتح هذه المقاربة آفاقًا عملية لإدارات المستشفيات في أزمنة الأوبئة، إذ يمكن لمسؤولي الفرز فهم الأعراض والعوامل التي تدفع النموذج إلى رفع درجة الخطر، فيتحققون من معقوليتها سريريًا ويكتشفون أي انحيازات بيانات قد تتسلل من عينات التدريب، ويعيدون معايرة النماذج دوريًا كلما تغيرت خصائص المتحورات أو بروتوكولات العلاج المعتمدة، بما يبقي الثقة بالنظام مشروطة بأدلة متجددة لا بانطباعات أولى
غير أن التفسيرية وحدها لا تضمن العدالة أو السلامة، فهي تكشف منطق النموذج ولا تصححه تلقائيًا، ومن ثم تحتاج إلى حوكمة مصاحبة تشمل تدقيق البيانات ومراجعة المخرجات ومساءلة واضحة عن القرار النهائي الذي يظل بشريًا في سياق الرعاية
وتعزز الدراسة بذلك رصيد الأدلة على أن مستقبل الذكاء الاصطناعي السريري مرهون بقدرته على شرح ذاته لمن يستخدمه ومن يتحمل مسؤولية قراراته
وخلاصة القول إن هذه الدراسة تقدم شاهدًا تطبيقيًا على أن قابلية التفسير ليست ترفًا منهجيًا بل شرط ثقة في الذكاء الاصطناعي الصحي، وأن أدوات مثل شاب ولايم قادرة على تحويل نماذج الصندوق المغلق إلى شركاء قرار يمكن للأطباء فهم منطقهم ومراجعته وتطويره
المصدر الأصلي: https://www.frontiersin.org/articles/10.3389/frai.2023.1272506/full
DOI: 10.3389/frai.2023.1272506