مختبر الرؤية الحاسوبية الدروس Grad-CAM وGrad-CAM++ بالتفصيل
Grad-CAM وGrad-CAM++ بالتفصيل
Grad-CAM and Grad-CAM++ in depth
اشتقاق الأوزان، والصيغة المغلقة لـ Grad-CAM++، وكيف يحسبها المختبر بدقة في المتصفح.
هذا المحتوى أُعدّ آلياً من مصادر موثقة ولم تكتمل مراجعته العلمية البشرية بعد. إن وجدت خطأً فأبلغنا.
المقدمة
Grad-CAM أكثر طرق التفسير استخداماً في الأبحاث الطبية، وفهم رياضياته يحميك من سوء استخدامه.
الأهداف التعليمية
- اشتقاق أوزان القنوات.
- فهم دور ReLU.
- فهم صيغة Grad-CAM++.
المتطلبات السابقة
الذكاء الاصطناعي القابل للتفسير.
الشرح العلمي
نأخذ خرائط السمات A^k في آخر طبقة التفافية وتدرج درجة الفئة y^c عليها، ونحسب وزن كل قناة بمتوسط تدرجها، ثم نجمع الخرائط موزونة ونطبق ReLU لإبقاء الأثر الموجب. لأن الشبكات المستخدمة تمرر الخرائط بتجميع عام بالمتوسط، فإن ∂y/∂A_k(i,j) = g_k/(h·w) حيث g تدرج الدرجة على المتجه المجمّع، ويحسبه المختبر بنموذج «رأس تدرج» صريح، فتكون الخريطة مطابقة للتعريف. Grad-CAM++ تستخدم مشتقات أعلى تُحسب بصيغة مغلقة إذا اعتُبر المخرج أسّياً.
المعادلات الرياضية
α_k^c = (1/Z)·Σ_ij ∂y^c/∂A^k_ij.
مثال عملي
MobileNetV2: الخريطة 7×7 × 1280 قناة، ويعرض المختبر عدد القنوات ذات الوزن الموجب.
خطوات التنفيذ
- شغّل Grad-CAM على صورة القطة.
- انقر الفئة الثانية في القائمة لتفسيرها.
- بدّل إلى Grad-CAM++ وقارن.
النتائج المتوقعة
تتغير الخريطة حين تغير الفئة المفسَّرة، وهذا جوهر ارتباطها بالفئة.
الأخطاء الشائعة
استخدام طبقة غير الأخيرة دون فهم أثرها، أو تكبير الخريطة 7×7 والظن أنها دقيقة بكسلياً.
التطبيقات العملية
التحقق من النماذج، تحديد مناطق الاهتمام.
المراجع
- R. R. Selvaraju et al. (2017).Grad-CAM: Visual Explanations from Deep Networks via Gradient-Based Localization. ICCV 2017. doi:10.1109/ICCV.2017.74
- A. Chattopadhay, A. Sarkar, P. Howlader, V. N. Balasubramanian (2018).Grad-CAM++: Generalized Gradient-Based Visual Explanations for Deep Convolutional Networks. WACV 2018. doi:10.1109/WACV.2018.00097
- B. Zhou, A. Khosla, A. Lapedriza, A. Oliva, A. Torralba (2016).Learning Deep Features for Discriminative Localization. CVPR 2016. doi:10.1109/CVPR.2016.319
