كتب الذكاء الاصطناعيمشاريع الذكاء الاصطناعيمقالات الذكاء الاصطناعيمعجم الذكاء الاصطناعياسئلة واجوبة في الذكاء الاصطناعيأكاديمية الذكاء الاصطناعي للأطفالأكاديمية الذكاء الاصطناعيمدرسة رياضيات الذكاء الاصطناعيمختبر الذكاء الاصطناعيمختبر الخوارزميات المستوحاة من الطبيعةأطلس نماذج الذكاء الاصطناعيموسوعة تطبيقات الذكاء الاصطناعيمستكشف مجموعات البيانات للذكاء الاصطناعياختبارات الذكاء الاصطناعيالفايب كودينغدليل البرمجة بالذكاء الاصطناعيمولّد مشاريع الذكاء الاصطناعيمرصد الذكاء الاصطناعيدليل أدوات الذكاء الاصطناعي البحث والنشر الأكاديميمكتبة البرومبتات الأكاديميةمستودع الرسائل والأطاريح في الذكاء الاصطناعيحاسبة الترقية العلميةأكاديمية الوكلاء الذكيينمختبر أخلاقيات الذكاء الاصطناعي والعدالةساحة ألعاب الذكاء الاصطناعيمختبر التنبؤ بالسلاسل الزمنيةمتحف الذكاء الاصطناعيمختبر الرؤية الحاسوبيةمختبر الشبكات العصبية البيانيةمختبر معالجة اللغة الطبيعيةمختبر الحوسبة الكمّيةخرائط طريق الذكاء الاصطناعيأكاديمية ماتلاب والذكاء الاصطناعيمصمم الشبكات العصبية

الذكاء الاصطناعي القابل للتفسير

Grad-CAM وخرائط البروز

Grad-CAM and Saliency Maps

متقدم 40 دقيقة

تفسير قرارات الشبكات الالتفافية: خرائط البروز بالتدرج، وGrad-CAM بأوزان التدرج على خرائط الميزات، وحساسية الحجب، والتحقق من سلامة التفسيرات.

ستتعلم في هذا الدرس

  • حساب خريطة بروز لنموذج بسيط
  • فهم معادلة Grad-CAM خطوة بخطوة
  • تطبيق occlusionSensitivity وgradCAM وimageLIME
  • إجراء اختبارات سلامة للتفسيرات

خريطة بروز لنموذج خطي-لوجستي

% «صورة» 3x3 ونموذج يعتمد على العمود الأوسط
W = [0 1 0; 0 2 0; 0 1 0];  b = -1;
I = [0.2 0.9 0.1; 0.3 0.8 0.2; 0.1 0.7 0.3];
z = sum(W(:) .* I(:)) + b;
p = 1 / (1 + exp(-z));
S = abs(p * (1 - p) * W);             % |dp/dI|
fprintf('score p = %.4f\n', p);
fprintf('saliency:\n'); fprintf('  %.4f %.4f %.4f\n', S');
الناتج الفعلي (شُغِّل في GNU Octave 8.4 أثناء إعداد الدرس، والطباعة بـ fprintf/disp فتطابق MATLAB)
score p = 0.9002
saliency:
  0.0000 0.0898 0.0000
  0.0000 0.1796 0.0000
  0.0000 0.0898 0.0000

Grad-CAM خطوة بخطوة

% خريطتا ميزات 2x2 من آخر طبقة التفافية وتدرجاتهما (قيم مثال)
A1 = [1 0; 0 2];   dA1 = [0.5 0.5; 0.5 0.5];
A2 = [0 3; 1 0];   dA2 = [-0.2 -0.2; -0.2 -0.2];
alpha = [mean(dA1(:)) mean(dA2(:))];           % أهمية كل قناة
L = max(alpha(1)*A1 + alpha(2)*A2, 0);         % ReLU
fprintf('alpha = %s\n', mat2str(alpha));
fprintf('Grad-CAM map = %s\n', mat2str(L, 4));
fprintf('normalized = %s\n', mat2str(L / max(L(:)), 4));
الناتج الفعلي (شُغِّل في GNU Octave 8.4 أثناء إعداد الدرس، والطباعة بـ fprintf/disp فتطابق MATLAB)
alpha = [0.5 -0.2]
Grad-CAM map = [0.5 0;0 1]
normalized = [0.5 0;0 1]

القناة الثانية تدرجها سالب (تقلل الدرجة)، لذلك تُطرح، وReLU يحذف المناطق ذات الأثر السالب. الخريطة الناتجة تُكبّر لحجم الصورة بالاستيفاء.

في Deep Learning Toolbox

net = imagePretrainedNetwork('googlenet');          % R2024a+
I = imresize(imread('peppers.png'), [224 224]);
scores = predict(net, single(I));
[~, c] = max(scores);
gcam = gradCAM(net, I, c);                          % R2021a+
occ  = occlusionSensitivity(net, I, c, 'MaskSize', 30, 'Stride', 10);
lim  = imageLIME(net, I, c, 'NumFeatures', 64);
% اختبار سلامة: نفس الخريطة بعد عشوائية أوزان آخر طبقة يجب أن تتغير كثيراً

يتطلب هذا الكود: Deep Learning Toolbox، Image Processing Toolbox. لم يُشغَّل في بيئة إعداد الدرس لعدم توفر الـ Toolbox، لذلك لا نعرض أرقاماً من عندنا؛ شغّله في MATLAB لديك وقارن النتائج.

حمّل حزمة دعم GoogLeNet. لاختبار السلامة انسخ الشبكة وغيّر Learnables لآخر طبقات بقيم عشوائية ثم قارن الخرائط.

في «مختبر CNN» و«مصوّر XAI» ترى الحجب (Occlusion) يُحسب فعلياً على نموذج صغير داخل المتصفح.

خلاصة الدرس

  • البروز = |∂y_c/∂x| لكل بكسل: أي البكسلات يغير تغييرها الدرجة أكثر.
  • Grad-CAM: αₖ = متوسط ∂y_c/∂Aₖ، ثم L = ReLU(Σ αₖAₖ) مكبّرة لحجم الصورة.
  • الحجب يغطي أجزاء من الصورة ويقيس انخفاض الدرجة؛ بطيء لكنه سهل الفهم.
  • اختبار السلامة: لو عشوائيت أوزان النموذج وبقيت الخريطة كما هي، فهي لا تفسر النموذج.
  • الخرائط منخفضة الدقة (Grad-CAM) تُظهر المنطقة لا التفاصيل.

شُغّلت saliency.m وgradcam_math.m في GNU Octave 8.4. مثال gradCAM يحتاج Deep Learning Toolbox ولم يُشغّل.

المتطلبات البرمجية

  • MATLAB
  • Deep Learning Toolbox
  • Image Processing Toolbox

بعض هذه الأدوات (Toolboxes) تُرخَّص منفصلة عن MATLAB. تحقق من توفرها بالأمر ver في Command Window.

جرّب بنفسك في المختبرمصوّر الذكاء الاصطناعي القابل للتفسير

المراجع

تحقّق من فهمك