الذكاء الاصطناعي القابل للتفسير
Grad-CAM وخرائط البروز
Grad-CAM and Saliency Maps
تفسير قرارات الشبكات الالتفافية: خرائط البروز بالتدرج، وGrad-CAM بأوزان التدرج على خرائط الميزات، وحساسية الحجب، والتحقق من سلامة التفسيرات.
ستتعلم في هذا الدرس
- حساب خريطة بروز لنموذج بسيط
- فهم معادلة Grad-CAM خطوة بخطوة
- تطبيق occlusionSensitivity وgradCAM وimageLIME
- إجراء اختبارات سلامة للتفسيرات
خريطة بروز لنموذج خطي-لوجستي
% «صورة» 3x3 ونموذج يعتمد على العمود الأوسط
W = [0 1 0; 0 2 0; 0 1 0]; b = -1;
I = [0.2 0.9 0.1; 0.3 0.8 0.2; 0.1 0.7 0.3];
z = sum(W(:) .* I(:)) + b;
p = 1 / (1 + exp(-z));
S = abs(p * (1 - p) * W); % |dp/dI|
fprintf('score p = %.4f\n', p);
fprintf('saliency:\n'); fprintf(' %.4f %.4f %.4f\n', S');score p = 0.9002 saliency: 0.0000 0.0898 0.0000 0.0000 0.1796 0.0000 0.0000 0.0898 0.0000
Grad-CAM خطوة بخطوة
% خريطتا ميزات 2x2 من آخر طبقة التفافية وتدرجاتهما (قيم مثال)
A1 = [1 0; 0 2]; dA1 = [0.5 0.5; 0.5 0.5];
A2 = [0 3; 1 0]; dA2 = [-0.2 -0.2; -0.2 -0.2];
alpha = [mean(dA1(:)) mean(dA2(:))]; % أهمية كل قناة
L = max(alpha(1)*A1 + alpha(2)*A2, 0); % ReLU
fprintf('alpha = %s\n', mat2str(alpha));
fprintf('Grad-CAM map = %s\n', mat2str(L, 4));
fprintf('normalized = %s\n', mat2str(L / max(L(:)), 4));alpha = [0.5 -0.2] Grad-CAM map = [0.5 0;0 1] normalized = [0.5 0;0 1]
القناة الثانية تدرجها سالب (تقلل الدرجة)، لذلك تُطرح، وReLU يحذف المناطق ذات الأثر السالب. الخريطة الناتجة تُكبّر لحجم الصورة بالاستيفاء.
في Deep Learning Toolbox
net = imagePretrainedNetwork('googlenet'); % R2024a+
I = imresize(imread('peppers.png'), [224 224]);
scores = predict(net, single(I));
[~, c] = max(scores);
gcam = gradCAM(net, I, c); % R2021a+
occ = occlusionSensitivity(net, I, c, 'MaskSize', 30, 'Stride', 10);
lim = imageLIME(net, I, c, 'NumFeatures', 64);
% اختبار سلامة: نفس الخريطة بعد عشوائية أوزان آخر طبقة يجب أن تتغير كثيراًيتطلب هذا الكود: Deep Learning Toolbox، Image Processing Toolbox. لم يُشغَّل في بيئة إعداد الدرس لعدم توفر الـ Toolbox، لذلك لا نعرض أرقاماً من عندنا؛ شغّله في MATLAB لديك وقارن النتائج.
حمّل حزمة دعم GoogLeNet. لاختبار السلامة انسخ الشبكة وغيّر Learnables لآخر طبقات بقيم عشوائية ثم قارن الخرائط.
في «مختبر CNN» و«مصوّر XAI» ترى الحجب (Occlusion) يُحسب فعلياً على نموذج صغير داخل المتصفح.
خلاصة الدرس
- البروز = |∂y_c/∂x| لكل بكسل: أي البكسلات يغير تغييرها الدرجة أكثر.
- Grad-CAM: αₖ = متوسط ∂y_c/∂Aₖ، ثم L = ReLU(Σ αₖAₖ) مكبّرة لحجم الصورة.
- الحجب يغطي أجزاء من الصورة ويقيس انخفاض الدرجة؛ بطيء لكنه سهل الفهم.
- اختبار السلامة: لو عشوائيت أوزان النموذج وبقيت الخريطة كما هي، فهي لا تفسر النموذج.
- الخرائط منخفضة الدقة (Grad-CAM) تُظهر المنطقة لا التفاصيل.
شُغّلت saliency.m وgradcam_math.m في GNU Octave 8.4. مثال gradCAM يحتاج Deep Learning Toolbox ولم يُشغّل.
المتطلبات البرمجية
- MATLAB
- Deep Learning Toolbox
- Image Processing Toolbox
بعض هذه الأدوات (Toolboxes) تُرخَّص منفصلة عن MATLAB. تحقق من توفرها بالأمر ver في Command Window.
