كتب الذكاء الاصطناعيمشاريع الذكاء الاصطناعيمقالات الذكاء الاصطناعيمعجم الذكاء الاصطناعياسئلة واجوبة في الذكاء الاصطناعيأكاديمية الذكاء الاصطناعي للأطفالأكاديمية الذكاء الاصطناعيمدرسة رياضيات الذكاء الاصطناعيمختبر الذكاء الاصطناعيمختبر الخوارزميات المستوحاة من الطبيعةأطلس نماذج الذكاء الاصطناعيموسوعة تطبيقات الذكاء الاصطناعيمستكشف مجموعات البيانات للذكاء الاصطناعياختبارات الذكاء الاصطناعيالفايب كودينغدليل البرمجة بالذكاء الاصطناعيمولّد مشاريع الذكاء الاصطناعيمرصد الذكاء الاصطناعيدليل أدوات الذكاء الاصطناعي البحث والنشر الأكاديميمكتبة البرومبتات الأكاديميةمستودع الرسائل والأطاريح في الذكاء الاصطناعيحاسبة الترقية العلميةأكاديمية الوكلاء الذكيينمختبر أخلاقيات الذكاء الاصطناعي والعدالةساحة ألعاب الذكاء الاصطناعيمختبر التنبؤ بالسلاسل الزمنيةمتحف الذكاء الاصطناعيمختبر الرؤية الحاسوبيةمختبر الشبكات العصبية البيانيةمختبر معالجة اللغة الطبيعيةمختبر الحوسبة الكمّيةخرائط طريق الذكاء الاصطناعيأكاديمية ماتلاب والذكاء الاصطناعيمصمم الشبكات العصبية

الذكاء الاصطناعي القابل للتفسير

الاعتماد الجزئي وSHAP وLIME

Partial Dependence, SHAP and LIME

متقدم 45 دقيقة

مخططات الاعتماد الجزئي (PDP) والتوقع الشرطي الفردي (ICE)، وقيم Shapley من نظرية الألعاب وحسابها الدقيق، وLIME لشرح تنبؤ واحد بنموذج خطي محلي.

ستتعلم في هذا الدرس

  • حساب PDP لميزة واحدة
  • حساب قيم Shapley الدقيقة لثلاث ميزات
  • فهم خاصية الجمع (Efficiency) في SHAP
  • بناء تفسير LIME بنموذج خطي موزون
  • استخدام plotPartialDependence وshapley وlime في MATLAB

الاعتماد الجزئي

f = @(X) X(:,1).^2 + 2*X(:,2) + X(:,1).*X(:,3);
X = [1 0 1; 2 1 0; 0 2 2; 3 1 1; 1 1 3];
grid = 0:3;
pd = zeros(size(grid));
for k = 1:numel(grid)
    Xg = X;  Xg(:, 1) = grid(k);          % ثبّت x1 لكل الصفوف
    pd(k) = mean(f(Xg));
end
fprintf('x1 grid = %s\n', mat2str(grid));
fprintf('PDP(x1) = %s\n', mat2str(pd, 4));
الناتج الفعلي (شُغِّل في GNU Octave 8.4 أثناء إعداد الدرس، والطباعة بـ fprintf/disp فتطابق MATLAB)
x1 grid = [0 1 2 3]
PDP(x1) = [2 4.4 8.8 15.2]

كل نقطة في PDP متوسط منحنيات ICE الفردية. الحد x1·x3 تفاعل يجعل منحنيات ICE غير متوازية، وهذا ما يخفيه المتوسط.

قيم Shapley الدقيقة

f = @(X) X(:,1).^2 + 2*X(:,2) + X(:,1).*X(:,3);
X = [1 0 1; 2 1 0; 0 2 2; 3 1 1; 1 1 3];       % بيانات الخلفية
x = [3 1 1];                                    % النقطة المراد تفسيرها
p = 3;
v = @(S) mean(f(X .* ~S + x .* S));             % قيمة المجموعة S (تدخلي)
phi = zeros(1, p);
for j = 1:p
    others = setdiff(1:p, j);
    for m = 0:2^(p-1) - 1
        S = false(1, p);
        S(others) = bitget(m, 1:p-1) == 1;
        s = sum(S);
        w = factorial(s) * factorial(p - s - 1) / factorial(p);
        Sj = S;  Sj(j) = true;
        phi(j) = phi(j) + w * (v(Sj) - v(S));
    end
end
fprintf('phi = %s\n', mat2str(phi, 4));
fprintf('sum(phi) = %.4f, f(x) - E[f(X)] = %.4f\n', sum(phi), f(x) - mean(f(X)));
الناتج الفعلي (شُغِّل في GNU Octave 8.4 أثناء إعداد الدرس، والطباعة بـ fprintf/disp فتطابق MATLAB)
phi = [8.2 0 -0.6]
sum(phi) = 7.6000, f(x) - E[f(X)] = 7.6000

هذه قيم Shapley التدخلية (Interventional) بخلفية من 5 نقاط، وهي ما تقربه الدالة shapley في MATLAB بطريقة interventional. الحساب الدقيق يحتاج 2^p تقييماً، لذلك تستخدم المكتبات تقريبات (Kernel SHAP) مع ميزات كثيرة.

LIME: نموذج خطي محلي

f = @(X) 1 ./ (1 + exp(-(X(:,1).^2 - X(:,2))));   % نموذج «صندوق أسود»
x0 = [1 0.5];
% عينات حتمية حول النقطة على شبكة صغيرة
[d1, d2] = meshgrid(-0.3:0.15:0.3);
Z = x0 + [d1(:) d2(:)];
y = f(Z);
dist = sqrt(sum((Z - x0).^2, 2));
w = exp(-(dist.^2) / 0.25^2);                       % نواة القرب
A = [ones(size(Z,1),1) Z - x0];
beta = (A' * (w .* A)) \ (A' * (w .* y));            % مربعات صغرى موزونة
g = @(x) exp(-(x(1)^2 - x(2))) / (1 + exp(-(x(1)^2 - x(2))))^2;
fprintf('LIME local weights: x1 %.4f, x2 %.4f\n', beta(2), beta(3));
fprintf('true gradient:      x1 %.4f, x2 %.4f\n', g(x0) * 2*x0(1), -g(x0));
الناتج الفعلي (شُغِّل في GNU Octave 8.4 أثناء إعداد الدرس، والطباعة بـ fprintf/disp فتطابق MATLAB)
LIME local weights: x1 0.4533, x2 -0.2280
true gradient:      x1 0.4700, x2 -0.2350

يقترب تفسير LIME من التدرج الحقيقي لأن العينات قريبة من النقطة. في MATLAB: results = lime(mdl, X); results = fit(results, x0, 2); plot(results).

بدوال MATLAB

load carsmall
tbl = rmmissing(table(Weight, Horsepower, Acceleration, MPG));
mdl = fitrensemble(tbl, 'MPG');
plotPartialDependence(mdl, 'Weight');                       % PDP
plotPartialDependence(mdl, 'Weight', 'Conditional', 'centered');   % ICE
explainer = shapley(mdl, tbl(:, 1:3), 'QueryPoint', tbl(1, 1:3));  % R2021a+
plot(explainer);
lm = lime(mdl, tbl(:, 1:3));                                 % R2020b+
lm = fit(lm, tbl(1, 1:3), 2);
plot(lm);

يتطلب هذا الكود: Statistics and Machine Learning Toolbox. لم يُشغَّل في بيئة إعداد الدرس لعدم توفر الـ Toolbox، لذلك لا نعرض أرقاماً من عندنا؛ شغّله في MATLAB لديك وقارن النتائج.

خلاصة الدرس

  • PDP يثبت الميزة عند قيمة ويحسب متوسط التنبؤ على كل البيانات.
  • قيمة Shapley متوسط المساهمة الهامشية للميزة على كل ترتيبات دخول الميزات.
  • مجموع قيم Shapley = التنبؤ − متوسط التنبؤات (خاصية الكفاءة).
  • LIME يأخذ عينات قرب النقطة ويلائم نموذجاً خطياً موزوناً بالقرب.
  • shapley (R2021a+) وlime (R2020b+) وplotPartialDependence في Statistics and Machine Learning Toolbox.

شُغّلت pdp.m وshapley_exact.m وlime_local.m في GNU Octave 8.4. أمثلة shapley وlime في MATLAB تحتاج Statistics Toolbox ولم تُشغّل.

المتطلبات البرمجية

  • MATLAB
  • Statistics and Machine Learning Toolbox

بعض هذه الأدوات (Toolboxes) تُرخَّص منفصلة عن MATLAB. تحقق من توفرها بالأمر ver في Command Window.

جرّب بنفسك في المختبرمصوّر الذكاء الاصطناعي القابل للتفسير

المراجع

تحقّق من فهمك