تتصدر مسألة أمن أنظمة الذكاء الاصطناعي اهتمامات الباحثين والممارسين مع اتساع توظيف هذه الأنظمة في التطبيقات الواقعية، إذ برزت الأمثلة الخصومية بوصفها أحد أخطر التهديدات الأمنية التي تواجهها، وهي أمثلة تنشأ من إدخال اضطرابات محسوبة بعناية فائقة وغير محسوسة على البيانات الخام بما يدفع النموذج إلى إصدار قرارات خاطئة رغم أن البيانات تبدو طبيعية تمامًا، وتكتسب هجمات الصندوق الأسود أهمية خاصة ضمن هذا المشهد لأنها لا تعتمد إلا على مدخلات النموذج ومخرجاته لتوليد الأمثلة الخصومية، وهو ما يجعل تنفيذها سهلًا في السيناريوهات الواقعية التي لا تتوفر فيها معرفة بالبنية الداخلية للنموذج المستهدف، غير أن البحوث السابقة في هجمات الصندوق الأسود ركزت في معظمها على نماذج التصنيف متعدد الفئات، بينما ظلت خوارزميات الهجوم على نماذج التصنيف متعدد الوسوم قليلة الدراسة رغم الانتشار الواسع لهذه النماذج في التطبيقات العملية
أولًا: أهداف الدراسة ومنهجيتها
هدفت الدراسة إلى بحث طرق نقل خوارزميات هجوم الصندوق الأسود المصممة أصلًا لنماذج التصنيف متعدد الفئات إلى نماذج التصنيف متعدد الوسوم، وذلك انطلاقًا من اختلاف جوهري بين النوعين في البنية والمخرجات، فالنموذج متعدد الوسوم يستطيع إسناد وسوم متعددة إلى العينة الواحدة، وغالبًا ما تظهر هذه الوسوم مترابطة فيما بينها، بينما يصنف النموذج متعدد الفئات العينة ضمن الفئة صاحبة أعلى درجة ثقة فحسب، ولهذا السبب لا تستطيع خوارزميات الهجوم الحالية الخاصة بالتصنيف متعدد الفئات مهاجمة نماذج التصنيف متعدد الوسوم بصورة مباشرة، وفي هذا الإطار اقترحت الدراسة للمرة الأولى النسخ متعددة الوسوم لثمانية من خوارزميات هجوم الصندوق الأسود الكلاسيكية، تشمل ثلاث هجمات قائمة على الدرجات وخمس هجمات قائمة على القرار لا تعتمد إلا على الوسم الناتج، ثم أخضعت هذه الخوارزميات المنقولة للتجريب عبر أنواع متعددة من الهجوم وعلى نماذج مختلفة للتصنيف متعدد الوسوم لقياس فاعليتها ومعدلات نجاحها
ثانيًا: أبرز النتائج
أظهرت النتائج التجريبية أن خوارزميات هجوم الصندوق الأسود المنقولة أبدت أداء هجوميًا فعالًا عبر مختلف أنواع الهجوم، باستثناء الهجمات المتطرفة التي ظلت خارج هذا النجاح، وبوجه خاص حققت معظم الخوارزميات المنقولة معدل نجاح يزيد على ستين في المئة على نموذج إم إل جي سي إن، ومعدل نجاح يزيد على ثلاثين في المئة على نموذج إم إل إل آي دبليو، وذلك ضمن نوع هجوم إخفاء الكل الذي يستهدف إخفاء جميع الوسوم الصحيحة عن النموذج، وفي المقابل أظهر أداء هذه الخوارزميات المنقولة تباينًا من نوع هجوم إلى آخر، وعزت الدراسة هذا التباين إلى الترابط القائم بين الوسوم في نماذج التصنيف متعدد الوسوم، وهو ترابط يفرض ديناميات هجوم مختلفة عن تلك المعهودة في نماذج الفئة الواحدة
ثالثًا: دلالات الدراسة وتطبيقاتها
تحمل هذه النتائج دلالة أمنية مباشرة مؤداها أن نماذج التصنيف متعدد الوسوم الموظفة في تطبيقات واقعية ليست بمنأى عن هجمات الصندوق الأسود، وأن أدوات الهجوم المتاحة لنماذج الفئات المتعددة قابلة للنقل والتكييف لمهاجمتها بنسب نجاح ملموسة، ومن ثم تدعو الدراسة ضمنًا إلى إعادة تقييم افتراضات الأمان المحيطة بهذه النماذج، وإلى تطوير آليات دفاع تراعي خصوصية التصنيف متعدد الوسوم ولا سيما ترابط الوسوم وتأثيره في سلوك الهجوم، كما تفتح الدراسة بابًا بحثيًا جديدًا بتقديمها أول نقل منهجي شامل لثماني خوارزميات هجوم كلاسيكية إلى بيئة الوسوم المتعددة، بما يوفر خط أساس يمكن البناء عليه في بحوث الهجوم والدفاع المستقبلية في هذا النوع الشائع من النماذج
ويكتسب هذا البحث أهميته من طبيعة هجمات الصندوق الأسود ذاتها، فهي لا تفترض أي معرفة داخلية بالنموذج المستهدف، وتكتفي بما يتيحه التفاعل العادي معه من مدخلات ومخرجات، وهو ما يجعلها نموذج التهديد الأقرب إلى الواقع العملي للمهاجمين، فإذا ثبتت قابليتها للنقل إلى نماذج الوسوم المتعددة بهذه المعدلات فإن سطح الهجوم الفعلي على أنظمة التصنيف المستخدمة في تصنيف الصور والمحتوى والنصوص يتسع بصورة جوهرية، كما أن تقديم النسخ المعدلة دفعة واحدة لثماني خوارزميات يتيح مقارنة منصفة بين فئتي الهجمات القائمة على الدرجات والقائمة على القرار داخل بيئة الوسوم المتعددة ذاتها
وخلاصة القول إن الدراسة سدت فجوة واضحة في أدبيات أمن الذكاء الاصطناعي حين نقلت هجمات الصندوق الأسود من نماذج التصنيف متعدد الفئات إلى نماذج التصنيف متعدد الوسوم عبر ثماني خوارزميات كلاسيكية معدلة، وأثبتت تجريبيًا فاعلية هذا النقل في معظم أنواع الهجوم، مع نجاح يتجاوز ستين في المئة على أحد النماذج المختبرة، مؤكدة أن ترابط الوسوم عامل حاسم في تباين أداء الهجمات يستحق أن يكون في صلب أي دفاع مستقبلي
هل تحتاج إلى دعم متخصص في بحثك؟
يمكنك طلب الخدمة مباشرة عبر حساب الباحث، وسيتابع معك فريق مؤسسة النظم طلبك خطوة بخطوة حتى اكتمال الإنجاز
