كتب الذكاء الاصطناعيمشاريع الذكاء الاصطناعيمقالات الذكاء الاصطناعيمعجم الذكاء الاصطناعياسئلة واجوبة في الذكاء الاصطناعيأكاديمية الذكاء الاصطناعي للأطفالأكاديمية الذكاء الاصطناعيمدرسة رياضيات الذكاء الاصطناعيمختبر الذكاء الاصطناعيمختبر الخوارزميات المستوحاة من الطبيعةأطلس نماذج الذكاء الاصطناعيموسوعة تطبيقات الذكاء الاصطناعيمستكشف مجموعات البيانات للذكاء الاصطناعياختبارات الذكاء الاصطناعيالفايب كودينغدليل البرمجة بالذكاء الاصطناعيمولّد مشاريع الذكاء الاصطناعيمرصد الذكاء الاصطناعيدليل أدوات الذكاء الاصطناعي البحث والنشر الأكاديميمكتبة البرومبتات الأكاديميةمستودع الرسائل والأطاريح في الذكاء الاصطناعيحاسبة الترقية العلميةأكاديمية الوكلاء الذكيينمختبر أخلاقيات الذكاء الاصطناعي والعدالةساحة ألعاب الذكاء الاصطناعيمختبر التنبؤ بالسلاسل الزمنيةمتحف الذكاء الاصطناعيمختبر الرؤية الحاسوبيةمختبر الشبكات العصبية البيانيةمختبر معالجة اللغة الطبيعيةمختبر الحوسبة الكمّيةخرائط طريق الذكاء الاصطناعيأكاديمية ماتلاب والذكاء الاصطناعيمصمم الشبكات العصبيةأكاديمية الذكاء الاصطناعي بدون برمجة

الذكاء الاصطناعي القابل للتفسير متقدم · Advanced 15 دقيقة

خرائط البروز وGrad-CAM والتدرجات المتكاملة

Saliency Maps, Grad-CAM and Integrated Gradients

أي أجزاء الصورة أثرت في قرار الشبكة؟ طرق التدرج الأساسية ومزاياها وحدودها.

تقدّمك في المسار0%

التدرج البسيط (Vanilla Gradient)

$$S(x) = \left|\frac{\partial y_c}{\partial x}\right|$$

سريع لكنه ضجيجي. SmoothGrad يأخذ متوسط التدرج على نسخ مشوشة من الصورة لتنعيم الخريطة.

Grad-CAM

  1. احسب تدرج نتيجة الفئة \(y_c\) بالنسبة لخرائط السمات \(A^k\) في طبقة تلافيفية.
  2. الوزن \(\alpha_k^c\) = متوسط التدرج على الموضع.
  3. الخريطة:

$$L^c = \mathrm{ReLU}\Big(\sum_k \alpha_k^c A^k\Big)$$

التدرجات المتكاملة

$$IG_i(x) = (x_i – x_i’) \int_0^1 \frac{\partial f\big(x’ + \alpha(x – x’)\big)}{\partial x_i}\, d\alpha$$

تحقق خاصية الاكتمال: مجموع الإسنادات يساوي \(f(x) – f(x’)\).

تطبيق بـ Captum

import torch
from torchvision.models import resnet50, ResNet50_Weights
from captum.attr import LayerGradCam, IntegratedGradients, LayerAttribution
model = resnet50(weights=ResNet50_Weights.DEFAULT).eval()
x = torch.randn(1, 3, 224, 224)              # استبدلها بصورة مُعالجة مسبقاً
target = model(x).argmax(1).item()
gc = LayerGradCam(model, model.layer4)
heat = LayerAttribution.interpolate(gc.attribute(x, target=target), (224, 224))
ig = IntegratedGradients(model)
attr = ig.attribute(x, baselines=torch.zeros_like(x), target=target, n_steps=50)
print(heat.shape, attr.shape)

مقارنة

الطريقةالدقة المكانيةالتكلفةملاحظة
التدرج البسيطعالية لكن ضجيجيةمنخفضةيتأثر بالتشبع
SmoothGradأوضحمتوسطةيعتمد على مستوى الضجيج
Grad-CAMخشنةمنخفضةخاص بالشبكات التلافيفية
التدرجات المتكاملةعاليةأعلىيعتمد على خط الأساس

في الدرس التالي سنرى أن بعض طرق البروز تجتاز “اختبار العين” لكنها تفشل في اختبارات الصدق.

مصطلحات الدرس

التدرجات المتكاملة Integrated Gradients
إسناد يجمع التدرجات على مسار مستقيم من مدخل أساس إلى المدخل الفعلي.
خريطة البروز Saliency Map
خريطة تعطي لكل بكسل درجة تقدّر أثره في قرار النموذج، غالباً من التدرج.
خريطة التفعيل الموزونة بالتدرج Grad-CAM
طريقة تنتج خريطة تفعيل للفئة بوزن خرائط سمات طبقة تلافيفية بمتوسط تدرجات الفئة بالنسبة لها.

الملخص

خرائط البروز تستخدم تدرج مخرج الفئة بالنسبة للبكسلات لتقدير حساسية القرار لكل بكسل، لكنها ضجيجية. Grad-CAM يوزن خرائط سمات آخر طبقة تلافيفية بمتوسط تدرجاتها فينتج خريطة حرارية خشنة ومتمركزة على الفئة. التدرجات المتكاملة تجمع التدرجات على مسار من خط أساس إلى الصورة، وتحقق خاصية الاكتمال. كل هذه الطرق تتطلب التحقق من صدقها، ولا تخبرنا لماذا تهم المنطقة، بل أين نظر النموذج.

أسئلة مراجعة

  1. لماذا تكون خرائط Grad-CAM خشنة؟

    لأنها مبنية على دقة آخر طبقة تلافيفية، ثم تُكبَّر إلى حجم الصورة.

  2. ما دور خط الأساس في التدرجات المتكاملة؟

    يمثل "غياب المعلومة"، والإسناد يقيس الفرق عنه، فاختياره يغير النتيجة.

المصادر والمراجع

  1. Simonyan, Vedaldi & Zisserman (2013) — Deep Inside Convolutional Networks
  2. Selvaraju et al. — Grad-CAM
  3. Sundararajan, Taly & Yan (2017) — Axiomatic Attribution for Deep Networks
  4. Captum Documentation

إكمال الدرس