كتب الذكاء الاصطناعيمشاريع الذكاء الاصطناعيمقالات الذكاء الاصطناعيمعجم الذكاء الاصطناعياسئلة واجوبة في الذكاء الاصطناعيأكاديمية الذكاء الاصطناعي للأطفالأكاديمية الذكاء الاصطناعيمدرسة رياضيات الذكاء الاصطناعيمختبر الذكاء الاصطناعيمختبر الخوارزميات المستوحاة من الطبيعةأطلس نماذج الذكاء الاصطناعيموسوعة تطبيقات الذكاء الاصطناعيمستكشف مجموعات البيانات للذكاء الاصطناعياختبارات الذكاء الاصطناعيالفايب كودينغدليل البرمجة بالذكاء الاصطناعيمولّد مشاريع الذكاء الاصطناعيمرصد الذكاء الاصطناعيدليل أدوات الذكاء الاصطناعي البحث والنشر الأكاديميمكتبة البرومبتات الأكاديميةمستودع الرسائل والأطاريح في الذكاء الاصطناعيحاسبة الترقية العلميةأكاديمية الوكلاء الذكيينمختبر أخلاقيات الذكاء الاصطناعي والعدالةساحة ألعاب الذكاء الاصطناعيمختبر التنبؤ بالسلاسل الزمنيةمتحف الذكاء الاصطناعيمختبر الرؤية الحاسوبيةمختبر الشبكات العصبية البيانيةمختبر معالجة اللغة الطبيعيةمختبر الحوسبة الكمّيةخرائط طريق الذكاء الاصطناعيأكاديمية ماتلاب والذكاء الاصطناعيمصمم الشبكات العصبية

الذكاء الاصطناعي القابل للتفسير

مقدمة: قابلية الفهم والتفسير والشفافية

Introduction: Interpretability, Explainability, Transparency

متوسط 30 دقيقة

لماذا نحتاج التفسير، والفرق بين قابلية الفهم (Interpretability) والتفسير (Explainability) والشفافية، والتفسير العام مقابل المحلي، والجوهري مقابل اللاحق.

ستتعلم في هذا الدرس

  • تعريف المصطلحات الأساسية بدقة
  • تصنيف طرق التفسير: عامة/محلية، جوهرية/لاحقة، خاصة بالنموذج/مستقلة عنه
  • قراءة معاملات نموذج خطي بشكل صحيح
  • معرفة حدود التفسيرات وأخطائها الشائعة

لماذا التفسير؟

  • الثقة والقبول: الطبيب أو القاضي يحتاج سبب القرار.
  • التصحيح: كشف اعتماد النموذج على أدلة مضللة (علامة مائية في صور الأشعة مثلاً).
  • العدالة: كشف التحيز ضد فئات معينة.
  • التنظيم: متطلبات قانونية للشفافية في الأنظمة عالية المخاطر.
التصنيفالخيار الأولالخيار الثاني
النطاقعام (Global)محلي (Local)
التوقيتجوهري (Intrinsic)لاحق (Post-hoc)
الاعتماد على النموذجخاص بالنموذج (Model-specific)مستقل عنه (Model-agnostic)

النموذج الخطي: مفهوم ذاتياً بشرط

% سعر منزل = f(المساحة بالمتر المربع، عدد الغرف)
X = [80 2; 120 3; 150 3; 200 4; 95 2; 175 4];
y = [100; 150; 175; 240; 115; 205];        % بآلاف الدولارات
w = [ones(6,1) X] \ y;
fprintf('raw coefficients: area %.4f per m^2, rooms %.4f per room\n', w(2), w(3));
Z = (X - mean(X)) ./ std(X);
ws = [ones(6,1) Z] \ y;
fprintf('standardized: area %.4f, rooms %.4f (per 1 std)\n', ws(2), ws(3));
R = corrcoef(X(:,1), X(:,2));
fprintf('corr(area, rooms) = %.4f\n', R(1, 2));
الناتج الفعلي (شُغِّل في GNU Octave 8.4 أثناء إعداد الدرس، والطباعة بـ fprintf/disp فتطابق MATLAB)
raw coefficients: area 1.0566 per m^2, rooms 4.6698 per room
standardized: area 49.2956, rooms 4.1768 (per 1 std)
corr(area, rooms) = 0.9586

المعامل الخام للغرف يبدو صغيراً أو حتى سالباً لأن المساحة والغرف مترابطتان بشدة: يصبح معنى معامل الغرف «أثر غرفة إضافية مع ثبات المساحة». هذا التداخل الخطي (Multicollinearity) من أشهر مزالق تفسير المعاملات.

أخطاء شائعة

التفسيرات اللاحقة تقريبات، وقد تختلف بين الطرق نفسها على النموذج ذاته. لا تقدّم خريطة Grad-CAM أو قيم SHAP دليلاً على أن القرار صحيح أو عادل؛ هي فقط تشرح ما يفعله النموذج.

مختبر «الذكاء الاصطناعي القابل للتفسير» يولّد بيانات بأوزان حقيقية معروفة، فتستطيع مقارنة ما تكتشفه كل طريقة بالحقيقة.

خلاصة الدرس

  • قابلية الفهم: قدرة الإنسان على فهم آلية النموذج نفسه (شجرة صغيرة، نموذج خطي).
  • التفسير: طرق لاحقة تشرح قرارات نموذج معقد.
  • التفسير العام يصف سلوك النموذج كله، والمحلي يشرح تنبؤاً واحداً.
  • معاملات النموذج الخطي لا تُقارن إلا بعد توحيد مقياس الميزات.
  • التفسير يصف النموذج لا العالم: علاقة قوية في النموذج ليست سببية بالضرورة.

شُغّل linear_interpret.m في GNU Octave 8.4.

المتطلبات البرمجية

  • MATLAB
  • Statistics and Machine Learning Toolbox

بعض هذه الأدوات (Toolboxes) تُرخَّص منفصلة عن MATLAB. تحقق من توفرها بالأمر ver في Command Window.

جرّب بنفسك في المختبرمصوّر الذكاء الاصطناعي القابل للتفسير

المراجع

تحقّق من فهمك