تتعرض الشبكات العصبية العميقة لخطر الأمثلة العدائية المصممة بدقة متناهية، إذ تؤدي إلى تصنيفات خاطئة عالية الثقة في مهام تصنيف الصور، وتتميز الهجمات العدائية القابلة للنقل بخطورة خاصة، لاتساقها مع أنماط المدخلات العادية وعدم اعتمادها على النموذج المستهدف أو على معلومات مخرجاته، وهو ما يجعلها شديدة التخفي وصعبة الكشف بالوسائل المعتادة، ومن ثم غدت محور اهتمام رئيس في بحوث الدفاع عن أنظمة التعلم العميق، وتقدم هذه الدراسة إطار دفاع جديدًا يعتمد على التعلم العميق، يقوم على إزالة الاضطرابات العدائية متعددة المصادر، لمواجهة الهجمات القابلة للنقل على اختلاف نماذجها البديلة
وتولد الهجمات القابلة للنقل أمثلتها العدائية على نموذج بديل يملكه المهاجم، ثم تنقلها لخداع نموذج مستهدف لا تعرف بنيته الداخلية، مستفيدة من تشابه حدود القرار بين النماذج المدربة على بيانات متقاربة، ولهذا السبب تحديدًا تعجز كثير من الدفاعات أحادية الهدف عن صدها، ويظل بناء دفاعات تعمم عبر النماذج البديلة المختلفة أحد أصعب التحديات المفتوحة في بحوث التعلم العميق المضاد للهجمات
أولًا: أهداف الدراسة ومنهجيتها
هدفت الدراسة إلى بناء دفاع قادر على إزالة الاضطرابات العدائية من الأمثلة المتنوعة بفاعلية عالية، واعتمد الإطار المقترح على آليتين متكاملتين، أولاهما آلية إزالة الاضطراب العدائي أحادي المصدر، التي توظف شبكة عصبونية ذات بنية ترميز وفك ترميز معززة بآلية انتباه للقنوات بوصفها نموذج الدفاع، وتدربها باستخدام أمثلة عدائية مولدة بنموذج مدرب مسبقًا، بما يمكنها من إزالة الاضطرابات العدائية المعروفة، وثانيتهما خوارزمية جدولة احتمالية للنماذج المدربة مسبقًا، تستحدث قياسًا لاختلاف النماذج وزخمًا سالبًا لجدولة نماذج متعددة بذكاء، بما يعظم الاختلافات بين الأمثلة العدائية أثناء تدريب نموذج الدفاع، ويعزز من ثم متانته في إزالة الاضطرابات على تنوع مصادرها
وتستند فكرة الإطار إلى ملاحظة منهجية مهمة، وهي أن الدفاعات المدربة على أمثلة عدائية من مصدر واحد تميل إلى الإفراط في التخصص لذلك المصدر، فتضعف قدرتها حين تأتي الهجمات من نماذج بديلة لم ترها من قبل، وهو التحدي الجوهري الذي تفرضه الهجمات القابلة للنقل تحديدًا، ومن هنا جاء الجمع بين الإزالة المتخصصة لكل مصدر على حدة وجدولة احتمالية توسع تنوع المصادر أثناء التدريب، بحيث يتعلم نموذج الدفاع خصائص اضطراب عامة قابلة للانتقال عبر النماذج لا بصمات ضيقة مرتبطة بنموذج مولد بعينه
ثانيًا: أبرز النتائج
أظهرت التجارب أن الإطار المقترح يزيل الاضطرابات العدائية من أمثلة عدائية متنوعة بفاعلية لافتة، ويوفر دفاعًا متينًا ضد الهجمات الصادرة عن نماذج بديلة مختلفة، ففي سيناريو هجوم الصندوق الأسود الذي استُخدم فيه نموذج ريزنت-34 هدفًا للهجوم، حققت الطريقة متوسط معدلات دفاع تجاوز 95.1 في المئة على مجموعة بيانات سيفار-10، وتجاوز 71.5 في المئة على مجموعة بيانات ميني إيمج نت، وهي نتائج تمثل مستوى أداء رائدًا في هذا المجال، وتؤكد أن تنويع مصادر الأمثلة العدائية أثناء التدريب يرفع قدرة الدفاع على التعميم في مواجهة هجمات لم ترها النماذج سلفًا ولم تتدرب عليها مباشرة
ويلفت الفارق بين معدلي الدفاع على مجموعتي البيانات نظر الباحثين إلى أثر تعقد البيانات ذاتها في صعوبة الدفاع، فمجموعة ميني إيمج نت أغنى بصريًا وأقرب إلى صور العالم الحقيقي من مجموعة سيفار-10 الأبسط، ومن ثم فإن الحفاظ على معدل دفاع مرتفع عليها يمثل اختبارًا أشد لقدرة الإطار على إزالة اضطرابات متخفية داخل محتوى بصري كثيف، وهو ما يجعل النتيجة المحققة عليها مؤشرًا عمليًا مشجعًا على قابلية النهج للتوسع نحو تطبيقات واقعية أعقد
ثالثًا: دلالات الدراسة وتطبيقاتها
تنطوي الدراسة على دلالات عملية للعاملين في أمن الذكاء الاصطناعي وحماية أنظمته، إذ تقدم إطار دفاع قابلًا للتطبيق لحماية أنظمة تصنيف الصور المستخدمة في تطبيقات حساسة من الهجمات العدائية القابلة للنقل، كما تثري البحث العلمي بمنهجية تجمع بين تصميم نموذج إزالة الاضطرابات وجدولة النماذج المولدة للأمثلة العدائية في منظومة دفاعية واحدة متكاملة، وتفتح المجال لأعمال لاحقة تختبر الإطار على نماذج أكبر ومجموعات بيانات أوسع وأكثر تنوعًا، وتدرس كلفته الحسابية وإمكانات دمجه في منظومات الدفاع المؤسسية عن أنظمة التعلم العميق المنشورة والفاعلة في بيئات حقيقية
وخلاصة القول إن الدفاع المقترح في هذه الدراسة يمثل تقدمًا ملموسًا في مواجهة الهجمات العدائية القابلة للنقل، بفضل جمعه بين إزالة الاضطرابات متعددة المصادر والجدولة الاحتمالية الذكية للنماذج المدربة مسبقًا، وبنتائجه الرائدة على مجموعتي بيانات معياريتين، بما يعزز الثقة بأنظمة الذكاء الاصطناعي العاملة في البيئات المعرضة للهجوم والاستهداف
