خرائط البروز وGrad-CAM والتدرجات المتكاملة
Saliency Maps, Grad-CAM and Integrated Gradients
أي أجزاء الصورة أثرت في قرار الشبكة؟ طرق التدرج الأساسية ومزاياها وحدودها.
التدرج البسيط (Vanilla Gradient)
$$S(x) = \left|\frac{\partial y_c}{\partial x}\right|$$
سريع لكنه ضجيجي. SmoothGrad يأخذ متوسط التدرج على نسخ مشوشة من الصورة لتنعيم الخريطة.
Grad-CAM
- احسب تدرج نتيجة الفئة \(y_c\) بالنسبة لخرائط السمات \(A^k\) في طبقة تلافيفية.
- الوزن \(\alpha_k^c\) = متوسط التدرج على الموضع.
- الخريطة:
$$L^c = \mathrm{ReLU}\Big(\sum_k \alpha_k^c A^k\Big)$$
التدرجات المتكاملة
$$IG_i(x) = (x_i – x_i’) \int_0^1 \frac{\partial f\big(x’ + \alpha(x – x’)\big)}{\partial x_i}\, d\alpha$$
تحقق خاصية الاكتمال: مجموع الإسنادات يساوي \(f(x) – f(x’)\).
تطبيق بـ Captum
import torch
from torchvision.models import resnet50, ResNet50_Weights
from captum.attr import LayerGradCam, IntegratedGradients, LayerAttribution
model = resnet50(weights=ResNet50_Weights.DEFAULT).eval()
x = torch.randn(1, 3, 224, 224) # استبدلها بصورة مُعالجة مسبقاً
target = model(x).argmax(1).item()
gc = LayerGradCam(model, model.layer4)
heat = LayerAttribution.interpolate(gc.attribute(x, target=target), (224, 224))
ig = IntegratedGradients(model)
attr = ig.attribute(x, baselines=torch.zeros_like(x), target=target, n_steps=50)
print(heat.shape, attr.shape)مقارنة
| الطريقة | الدقة المكانية | التكلفة | ملاحظة |
|---|---|---|---|
| التدرج البسيط | عالية لكن ضجيجية | منخفضة | يتأثر بالتشبع |
| SmoothGrad | أوضح | متوسطة | يعتمد على مستوى الضجيج |
| Grad-CAM | خشنة | منخفضة | خاص بالشبكات التلافيفية |
| التدرجات المتكاملة | عالية | أعلى | يعتمد على خط الأساس |
في الدرس التالي سنرى أن بعض طرق البروز تجتاز “اختبار العين” لكنها تفشل في اختبارات الصدق.
مصطلحات الدرس
- التدرجات المتكاملة Integrated Gradients
- إسناد يجمع التدرجات على مسار مستقيم من مدخل أساس إلى المدخل الفعلي.
- خريطة البروز Saliency Map
- خريطة تعطي لكل بكسل درجة تقدّر أثره في قرار النموذج، غالباً من التدرج.
- خريطة التفعيل الموزونة بالتدرج Grad-CAM
- طريقة تنتج خريطة تفعيل للفئة بوزن خرائط سمات طبقة تلافيفية بمتوسط تدرجات الفئة بالنسبة لها.
الملخص
خرائط البروز تستخدم تدرج مخرج الفئة بالنسبة للبكسلات لتقدير حساسية القرار لكل بكسل، لكنها ضجيجية. Grad-CAM يوزن خرائط سمات آخر طبقة تلافيفية بمتوسط تدرجاتها فينتج خريطة حرارية خشنة ومتمركزة على الفئة. التدرجات المتكاملة تجمع التدرجات على مسار من خط أساس إلى الصورة، وتحقق خاصية الاكتمال. كل هذه الطرق تتطلب التحقق من صدقها، ولا تخبرنا لماذا تهم المنطقة، بل أين نظر النموذج.
أسئلة مراجعة
-
لماذا تكون خرائط Grad-CAM خشنة؟
لأنها مبنية على دقة آخر طبقة تلافيفية، ثم تُكبَّر إلى حجم الصورة.
-
ما دور خط الأساس في التدرجات المتكاملة؟
يمثل "غياب المعلومة"، والإسناد يقيس الفرق عنه، فاختياره يغير النتيجة.
المصادر والمراجع
إكمال الدرس
أكملت كل دروس المسار! يمكنك الآن طلب شهادة إكمال المسار.
اطلب الشهادة