مختبر الرؤية الحاسوبية الخوارزميات Grad-CAM
Grad-CAM
Gradient-weighted Class Activation Mapping
خريطة تبيّن المناطق التي رفعت درجة فئة معينة بوزن خرائط السمات الأخيرة بمتوسط تدرجاتها.
هذا المحتوى أُعدّ آلياً من مصادر موثقة ولم تكتمل مراجعته العلمية البشرية بعد. إن وجدت خطأً فأبلغنا.
الصيغة الرياضية
\alpha_k^{c} = \frac{1}{Z}\sum_{i,j}\frac{\partial y^{c}}{\partial A^{k}_{ij}},\qquad L^{c}_{\text{Grad-CAM}} = \operatorname{ReLU}\!\Big(\sum_k \alpha_k^{c} A^{k}\Big)الشرح
يعمم CAM لأي شبكة التفافية دون إعادة تدريب. في هذا المختبر يُحسب التدرج تحليلياً عبر رأس التصنيف لأن خرائط السمات تمر بتجميع عام بالمتوسط، فالنتيجة دقيقة وليست تقريباً.
التطبيقات
تشخيص أخطاء النماذج، اكتشاف الاعتماد على الخلفية (Shortcut learning).
القيود
دقة مكانية منخفضة (7×7)؛ اختبارات Adebayo أظهرت أن بعض خرائط التفسير لا تتأثر بعشوائية الأوزان، فلا تُعامل كدليل قاطع.
المراجع
- R. R. Selvaraju et al. (2017).Grad-CAM: Visual Explanations from Deep Networks via Gradient-Based Localization. ICCV 2017. doi:10.1109/ICCV.2017.74
- B. Zhou, A. Khosla, A. Lapedriza, A. Oliva, A. Torralba (2016).Learning Deep Features for Discriminative Localization. CVPR 2016. doi:10.1109/CVPR.2016.319
- J. Adebayo et al. (2018).Sanity Checks for Saliency Maps. arXiv:1810.03292 (NeurIPS 2018). doi:10.48550/arXiv.1810.03292
