الذكاء الاصطناعي القابل للتفسير
الاعتماد الجزئي وSHAP وLIME
Partial Dependence, SHAP and LIME
مخططات الاعتماد الجزئي (PDP) والتوقع الشرطي الفردي (ICE)، وقيم Shapley من نظرية الألعاب وحسابها الدقيق، وLIME لشرح تنبؤ واحد بنموذج خطي محلي.
ستتعلم في هذا الدرس
- حساب PDP لميزة واحدة
- حساب قيم Shapley الدقيقة لثلاث ميزات
- فهم خاصية الجمع (Efficiency) في SHAP
- بناء تفسير LIME بنموذج خطي موزون
- استخدام plotPartialDependence وshapley وlime في MATLAB
الاعتماد الجزئي
f = @(X) X(:,1).^2 + 2*X(:,2) + X(:,1).*X(:,3);
X = [1 0 1; 2 1 0; 0 2 2; 3 1 1; 1 1 3];
grid = 0:3;
pd = zeros(size(grid));
for k = 1:numel(grid)
Xg = X; Xg(:, 1) = grid(k); % ثبّت x1 لكل الصفوف
pd(k) = mean(f(Xg));
end
fprintf('x1 grid = %s\n', mat2str(grid));
fprintf('PDP(x1) = %s\n', mat2str(pd, 4));x1 grid = [0 1 2 3] PDP(x1) = [2 4.4 8.8 15.2]
كل نقطة في PDP متوسط منحنيات ICE الفردية. الحد x1·x3 تفاعل يجعل منحنيات ICE غير متوازية، وهذا ما يخفيه المتوسط.
قيم Shapley الدقيقة
f = @(X) X(:,1).^2 + 2*X(:,2) + X(:,1).*X(:,3);
X = [1 0 1; 2 1 0; 0 2 2; 3 1 1; 1 1 3]; % بيانات الخلفية
x = [3 1 1]; % النقطة المراد تفسيرها
p = 3;
v = @(S) mean(f(X .* ~S + x .* S)); % قيمة المجموعة S (تدخلي)
phi = zeros(1, p);
for j = 1:p
others = setdiff(1:p, j);
for m = 0:2^(p-1) - 1
S = false(1, p);
S(others) = bitget(m, 1:p-1) == 1;
s = sum(S);
w = factorial(s) * factorial(p - s - 1) / factorial(p);
Sj = S; Sj(j) = true;
phi(j) = phi(j) + w * (v(Sj) - v(S));
end
end
fprintf('phi = %s\n', mat2str(phi, 4));
fprintf('sum(phi) = %.4f, f(x) - E[f(X)] = %.4f\n', sum(phi), f(x) - mean(f(X)));phi = [8.2 0 -0.6] sum(phi) = 7.6000, f(x) - E[f(X)] = 7.6000
هذه قيم Shapley التدخلية (Interventional) بخلفية من 5 نقاط، وهي ما تقربه الدالة shapley في MATLAB بطريقة interventional. الحساب الدقيق يحتاج 2^p تقييماً، لذلك تستخدم المكتبات تقريبات (Kernel SHAP) مع ميزات كثيرة.
LIME: نموذج خطي محلي
f = @(X) 1 ./ (1 + exp(-(X(:,1).^2 - X(:,2)))); % نموذج «صندوق أسود»
x0 = [1 0.5];
% عينات حتمية حول النقطة على شبكة صغيرة
[d1, d2] = meshgrid(-0.3:0.15:0.3);
Z = x0 + [d1(:) d2(:)];
y = f(Z);
dist = sqrt(sum((Z - x0).^2, 2));
w = exp(-(dist.^2) / 0.25^2); % نواة القرب
A = [ones(size(Z,1),1) Z - x0];
beta = (A' * (w .* A)) \ (A' * (w .* y)); % مربعات صغرى موزونة
g = @(x) exp(-(x(1)^2 - x(2))) / (1 + exp(-(x(1)^2 - x(2))))^2;
fprintf('LIME local weights: x1 %.4f, x2 %.4f\n', beta(2), beta(3));
fprintf('true gradient: x1 %.4f, x2 %.4f\n', g(x0) * 2*x0(1), -g(x0));LIME local weights: x1 0.4533, x2 -0.2280 true gradient: x1 0.4700, x2 -0.2350
يقترب تفسير LIME من التدرج الحقيقي لأن العينات قريبة من النقطة. في MATLAB: results = lime(mdl, X); results = fit(results, x0, 2); plot(results).
بدوال MATLAB
load carsmall
tbl = rmmissing(table(Weight, Horsepower, Acceleration, MPG));
mdl = fitrensemble(tbl, 'MPG');
plotPartialDependence(mdl, 'Weight'); % PDP
plotPartialDependence(mdl, 'Weight', 'Conditional', 'centered'); % ICE
explainer = shapley(mdl, tbl(:, 1:3), 'QueryPoint', tbl(1, 1:3)); % R2021a+
plot(explainer);
lm = lime(mdl, tbl(:, 1:3)); % R2020b+
lm = fit(lm, tbl(1, 1:3), 2);
plot(lm);يتطلب هذا الكود: Statistics and Machine Learning Toolbox. لم يُشغَّل في بيئة إعداد الدرس لعدم توفر الـ Toolbox، لذلك لا نعرض أرقاماً من عندنا؛ شغّله في MATLAB لديك وقارن النتائج.
خلاصة الدرس
- PDP يثبت الميزة عند قيمة ويحسب متوسط التنبؤ على كل البيانات.
- قيمة Shapley متوسط المساهمة الهامشية للميزة على كل ترتيبات دخول الميزات.
- مجموع قيم Shapley = التنبؤ − متوسط التنبؤات (خاصية الكفاءة).
- LIME يأخذ عينات قرب النقطة ويلائم نموذجاً خطياً موزوناً بالقرب.
- shapley (R2021a+) وlime (R2020b+) وplotPartialDependence في Statistics and Machine Learning Toolbox.
شُغّلت pdp.m وshapley_exact.m وlime_local.m في GNU Octave 8.4. أمثلة shapley وlime في MATLAB تحتاج Statistics Toolbox ولم تُشغّل.
المتطلبات البرمجية
- MATLAB
- Statistics and Machine Learning Toolbox
بعض هذه الأدوات (Toolboxes) تُرخَّص منفصلة عن MATLAB. تحقق من توفرها بالأمر ver في Command Window.
