مختبر الرؤية الحاسوبية الخوارزميات Grad-CAM

Grad-CAM

Gradient-weighted Class Activation Mapping

خريطة تبيّن المناطق التي رفعت درجة فئة معينة بوزن خرائط السمات الأخيرة بمتوسط تدرجاتها.

داخل المتصفحالتفسير البصري وخرائط الانتباهالتفسير

هذا المحتوى أُعدّ آلياً من مصادر موثقة ولم تكتمل مراجعته العلمية البشرية بعد. إن وجدت خطأً فأبلغنا.

الصيغة الرياضية

\alpha_k^{c} = \frac{1}{Z}\sum_{i,j}\frac{\partial y^{c}}{\partial A^{k}_{ij}},\qquad L^{c}_{\text{Grad-CAM}} = \operatorname{ReLU}\!\Big(\sum_k \alpha_k^{c} A^{k}\Big)

الشرح

يعمم CAM لأي شبكة التفافية دون إعادة تدريب. في هذا المختبر يُحسب التدرج تحليلياً عبر رأس التصنيف لأن خرائط السمات تمر بتجميع عام بالمتوسط، فالنتيجة دقيقة وليست تقريباً.

التطبيقات

تشخيص أخطاء النماذج، اكتشاف الاعتماد على الخلفية (Shortcut learning).

القيود

دقة مكانية منخفضة (7×7)؛ اختبارات Adebayo أظهرت أن بعض خرائط التفسير لا تتأثر بعشوائية الأوزان، فلا تُعامل كدليل قاطع.

المراجع

  1. R. R. Selvaraju et al. (2017).Grad-CAM: Visual Explanations from Deep Networks via Gradient-Based Localization. ICCV 2017. doi:10.1109/ICCV.2017.74
  2. B. Zhou, A. Khosla, A. Lapedriza, A. Oliva, A. Torralba (2016).Learning Deep Features for Discriminative Localization. CVPR 2016. doi:10.1109/CVPR.2016.319
  3. J. Adebayo et al. (2018).Sanity Checks for Saliency Maps. arXiv:1810.03292 (NeurIPS 2018). doi:10.48550/arXiv.1810.03292

تجارب تستخدم هذه الخوارزمية

نماذج مرتبطة

دروس مرتبطة

جرّبها في التفسير البصري وخرائط الانتباه