الموثوقية التقييمية الذاتية: خاصية سلامة غائبة في حوكمة الذكاء الاصطناعي السريري التكيفي

تنتقل حوكمة الذكاء الاصطناعي السريري التكيفي من عمليات الموافقة الجامدة قبل التسويق إلى رقابة مستمرة بعد التسويق، وهو تحول يخلق ظروفًا قد يسهم فيها التقييم الذاتي الذي تولده أنظمة الذكاء الاصطناعي ذاتها في ضمان السلامة بعد النشر، إذ تراقب الأنظمة مخرجاتها وتصعد الحالات المشكوك فيها وتكيف سلوكها استنادًا إلى أحكام تصدرها هي عن جودة عملها وحدوده

غير أن المناهج التنظيمية القائمة، مثل خطة التحكم المسبق في التغييرات ومبادئ الممارسة الجيدة للتعلم الآلي، تعالج المراقبة والتعديل وانحراف الأداء، لكنها لا تعرف صراحة موثوقية التقييم الذاتي الذي يولده الذكاء الاصطناعي بوصفها هدف تحقق مستقلًا، وتظهر دراسات ناشئة في التقويم السريري المعتمد على الذكاء الاصطناعي تباينًا كبيرًا في الاتفاق عبر النماذج والمقيمين والمهام ومعايير التقويم، وهو تباين يحذر من استنتاج موثوقية التقويم من الأداء العام للنموذج

أولًا: أهداف الدراسة ومنهجيتها

هدفت هذه الورقة المفاهيمية إلى تعريف الموثوقية التقييمية الذاتية وبيان موقعها في سلامة حوكمة الذكاء الاصطناعي السريري التكيفي، واعتمدت تحليلًا مفاهيميًا للأطر التنظيمية القائمة وللأدلة الناشئة حول التقويم السريري بوساطة الذكاء الاصطناعي، مع التنبيه إلى أن هذه الأدلة مستمدة في معظمها من دراسات الذكاء الاصطناعي مقيمًا لأنظمة أخرى لا من التقييم الذاتي المباشر، ثم صاغت مقترحًا يجعل الموثوقية التقييمية الذاتية خاصية سلامة مستقلة قابلة للتحقق المنفصل

ثانيًا: أبرز النتائج

1، تعرف الموثوقية التقييمية الذاتية بأنها الاتساق والاعتمادية اللذان يقيم بهما نظام الذكاء الاصطناعي جودة مخرجاته أو عدم يقينها أو حدودها في ظل شروط تقويم محددة سلفًا

2، أظهرت الدراسات الناشئة تباينًا جوهريًا في الاتفاق عبر النماذج والمقيمين والمهام ومعايير التقويم، ورغم أن هذا الدليل مستمد في معظمه من تقويم الذكاء الاصطناعي بوصفه مقيمًا لا من التقييم الذاتي المباشر، فإنه يبرهن على أن الموثوقية التقييمية لا ينبغي أن تستنتج من الأداء العام للنموذج

3، تعالج الأطر التنظيمية الحالية كخطة التحكم المسبق في التغييرات ومبادئ الممارسة الجيدة للتعلم الآلي قضايا المراقبة والتعديل وانحراف الأداء، لكنها لا تحدد موثوقية التقييم الذاتي المولد ذكائيًا هدفًا مستقلًا للتحقق والاعتماد

4، يمتد مفهوم الموثوقية التقييمية الذاتية من مبادئ راسخة في قابلية التكرار والاعتمادية العلمية، لينقلها إلى مجال التقويمات التي يولدها الذكاء الاصطناعي عن مخرجاته ذاتها

5، تنبه الورقة إلى أن أدلة التقويم الحالية مستمدة بمعظمها من سياقات يقيم فيها الذكاء الاصطناعي أنظمة أخرى، وهو ما يجعل الحاجة ماسة إلى دراسات مباشرة في التقييم الذاتي ذاته قبل تعميم الاستنتاجات على قرارات السلامة

ثالثًا: دلالات الدراسة وتطبيقاتها

تقترح الورقة أن تعد الموثوقية التقييمية الذاتية خاصية سلامة متميزة يتحقق منها استقلالًا متى أسهمت الأحكام التقييمية الذاتية في المراقبة أو التصعيد أو التكيف أو الاستمرار في النشر، ولا تقدم هذه الخاصية إطارًا تنظيميًا جديدًا من العدم بقدر ما تمد مبادئ راسخة في قابلية التكرار والموثوقية إلى التقويمات التي يولدها الذكاء الاصطناعي، وإن ترسيخ هذا التحقق قبل أن يصبح التقييم الذاتي حاملًا لأعباء السلامة من شأنه أن يعزز سلامة حوكمة الذكاء الاصطناعي السريري التكيفي وشفافيتها، وتفيد هذه الصياغة المفاهيمية الباحثين في أخلاقيات الذكاء الاصطناعي الطبي وطلاب الدراسات العليا العرب في صياغة أسئلة بحثية دقيقة حول التحقق من الأنظمة ذاتية التقويم وحدود الاعتماد عليها

وتتصل هذه الدعوة بمسؤوليات عملية تقع على عاتق مطوري الأنظمة السريرية والجهات المنظمة معًا، إذ ينبغي أن تحدد شروط التقويم الذاتي سلفًا وأن توثق نتائج التحقق من موثوقيته قبل منح النظام صلاحيات المراقبة الذاتية والتصعيد، ويمكن للباحثين العرب في الحوسبة الصحية أن يسهموا في هذا الحقل الناشئ بدراسات تجريبية تقيس اتساق تقويمات النماذج عبر المهام السريرية والمقيمين المختلفين

وخلاصة القول إن سلامة الذكاء الاصطناعي السريري التكيفي لا تكتمل بمراقبة الأداء وحده، بل تتطلب تحققًا مستقلًا من موثوقية الأحكام التي يصدرها النظام عن نفسه قبل الاعتماد عليها في قرارات النشر والتصعيد