كتب الذكاء الاصطناعيمشاريع الذكاء الاصطناعيمقالات الذكاء الاصطناعيمعجم الذكاء الاصطناعياسئلة واجوبة في الذكاء الاصطناعيأكاديمية الذكاء الاصطناعي للأطفالأكاديمية الذكاء الاصطناعيمدرسة رياضيات الذكاء الاصطناعيمختبر الذكاء الاصطناعيمختبر الخوارزميات المستوحاة من الطبيعةأطلس نماذج الذكاء الاصطناعيموسوعة تطبيقات الذكاء الاصطناعيمستكشف مجموعات البيانات للذكاء الاصطناعياختبارات الذكاء الاصطناعيالفايب كودينغدليل البرمجة بالذكاء الاصطناعيمولّد مشاريع الذكاء الاصطناعيمرصد الذكاء الاصطناعيدليل أدوات الذكاء الاصطناعي البحث والنشر الأكاديميمكتبة البرومبتات الأكاديميةمستودع الرسائل والأطاريح في الذكاء الاصطناعيحاسبة الترقية العلميةأكاديمية الوكلاء الذكيينمختبر أخلاقيات الذكاء الاصطناعي والعدالةساحة ألعاب الذكاء الاصطناعيمختبر التنبؤ بالسلاسل الزمنيةمتحف الذكاء الاصطناعيمختبر الرؤية الحاسوبيةمختبر الشبكات العصبية البيانيةمختبر معالجة اللغة الطبيعيةمختبر الحوسبة الكمّيةخرائط طريق الذكاء الاصطناعي

مختبر الرؤية الحاسوبية الدروس Grad-CAM وGrad-CAM++ بالتفصيل

Grad-CAM وGrad-CAM++ بالتفصيل

Grad-CAM and Grad-CAM++ in depth

اشتقاق الأوزان، والصيغة المغلقة لـ Grad-CAM++، وكيف يحسبها المختبر بدقة في المتصفح.

متقدم40 دقيقةالذكاء الاصطناعي القابل للتفسيرالتفسير البصري وخرائط الانتباه

هذا المحتوى أُعدّ آلياً من مصادر موثقة ولم تكتمل مراجعته العلمية البشرية بعد. إن وجدت خطأً فأبلغنا.

المقدمة

Grad-CAM أكثر طرق التفسير استخداماً في الأبحاث الطبية، وفهم رياضياته يحميك من سوء استخدامه.

الأهداف التعليمية

  • اشتقاق أوزان القنوات.
  • فهم دور ReLU.
  • فهم صيغة Grad-CAM++.

المتطلبات السابقة

الذكاء الاصطناعي القابل للتفسير.

الشرح العلمي

نأخذ خرائط السمات A^k في آخر طبقة التفافية وتدرج درجة الفئة y^c عليها، ونحسب وزن كل قناة بمتوسط تدرجها، ثم نجمع الخرائط موزونة ونطبق ReLU لإبقاء الأثر الموجب. لأن الشبكات المستخدمة تمرر الخرائط بتجميع عام بالمتوسط، فإن ∂y/∂A_k(i,j) = g_k/(h·w) حيث g تدرج الدرجة على المتجه المجمّع، ويحسبه المختبر بنموذج «رأس تدرج» صريح، فتكون الخريطة مطابقة للتعريف. Grad-CAM++ تستخدم مشتقات أعلى تُحسب بصيغة مغلقة إذا اعتُبر المخرج أسّياً.

المعادلات الرياضية

α_k^c = (1/Z)·Σ_ij ∂y^c/∂A^k_ij.

مثال عملي

MobileNetV2: الخريطة 7×7 × 1280 قناة، ويعرض المختبر عدد القنوات ذات الوزن الموجب.

خطوات التنفيذ

  1. شغّل Grad-CAM على صورة القطة.
  2. انقر الفئة الثانية في القائمة لتفسيرها.
  3. بدّل إلى Grad-CAM++ وقارن.

النتائج المتوقعة

تتغير الخريطة حين تغير الفئة المفسَّرة، وهذا جوهر ارتباطها بالفئة.

الأخطاء الشائعة

استخدام طبقة غير الأخيرة دون فهم أثرها، أو تكبير الخريطة 7×7 والظن أنها دقيقة بكسلياً.

التطبيقات العملية

التحقق من النماذج، تحديد مناطق الاهتمام.

المراجع

  1. R. R. Selvaraju et al. (2017).Grad-CAM: Visual Explanations from Deep Networks via Gradient-Based Localization. ICCV 2017. doi:10.1109/ICCV.2017.74
  2. A. Chattopadhay, A. Sarkar, P. Howlader, V. N. Balasubramanian (2018).Grad-CAM++: Generalized Gradient-Based Visual Explanations for Deep Convolutional Networks. WACV 2018. doi:10.1109/WACV.2018.00097
  3. B. Zhou, A. Khosla, A. Lapedriza, A. Oliva, A. Torralba (2016).Learning Deep Features for Discriminative Localization. CVPR 2016. doi:10.1109/CVPR.2016.319

تجارب مرتبطة

خوارزميات مرتبطة

جرّب في التفسير البصري وخرائط الانتباه