مختبر الرؤية الحاسوبية الدروس التفسير بالاضطراب: Occlusion وLIME
التفسير بالاضطراب: Occlusion وLIME
Perturbation-based explanations
طريقتان لا تحتاجان إلى التدرجات وتعملان مع أي نموذج.
هذا المحتوى أُعدّ آلياً من مصادر موثقة ولم تكتمل مراجعته العلمية البشرية بعد. إن وجدت خطأً فأبلغنا.
المقدمة
حين لا نملك التدرجات أو نريد تحققاً مستقلاً، نغيّر المدخل ونراقب المخرج.
الأهداف التعليمية
- تطبيق Occlusion وفهم معاملاته.
- فهم خطوات LIME.
- معرفة أثر العشوائية.
المتطلبات السابقة
الذكاء الاصطناعي القابل للتفسير.
الشرح العلمي
Occlusion يحجب رقعة (بقيمة المتوسط بعد التطبيع) ويقيس انخفاض احتمال الفئة، ويكرر لكل موضع. LIME يقسم الصورة إلى بكسلات فائقة، ويولد عينات بإطفاء مجموعات عشوائية، ويزنها بقربها من الأصل، ثم يلائم انحداراً خطياً موزوناً معاملاته أهمية المناطق.
المعادلات الرياضية
LIME: ξ(x) = argmin_g L(f, g, π_x) + Ω(g).
مثال عملي
رقعة 32 بخطوة 16 على 224×224 تعني 169 تشغيلاً للنموذج.
خطوات التنفيذ
- شغّل Occlusion برقعة 32 ثم 16.
- شغّل LIME بعدد عينات 150 ثم 400.
- قارن الخرائط.
النتائج المتوقعة
الدقة تزيد مع صغر الرقعة وزيادة العينات، والزمن كذلك.
الأخطاء الشائعة
استنتاجات من LIME بعدد عينات قليل جداً.
التطبيقات العملية
تفسير النماذج المغلقة، التحقق المتقاطع.
المراجع
- M. D. Zeiler, R. Fergus (2014).Visualizing and Understanding Convolutional Networks. ECCV 2014 (LNCS 8689). doi:10.1007/978-3-319-10590-1_53
- M. T. Ribeiro, S. Singh, C. Guestrin (2016)."Why Should I Trust You?": Explaining the Predictions of Any Classifier. KDD 2016. doi:10.1145/2939672.2939778
- R. Achanta et al. (2012).SLIC Superpixels Compared to State-of-the-Art Superpixel Methods. IEEE TPAMI 34(11). doi:10.1109/TPAMI.2012.120
