الذكاء الاصطناعي القابل للتفسير
مقدمة: قابلية الفهم والتفسير والشفافية
Introduction: Interpretability, Explainability, Transparency
لماذا نحتاج التفسير، والفرق بين قابلية الفهم (Interpretability) والتفسير (Explainability) والشفافية، والتفسير العام مقابل المحلي، والجوهري مقابل اللاحق.
ستتعلم في هذا الدرس
- تعريف المصطلحات الأساسية بدقة
- تصنيف طرق التفسير: عامة/محلية، جوهرية/لاحقة، خاصة بالنموذج/مستقلة عنه
- قراءة معاملات نموذج خطي بشكل صحيح
- معرفة حدود التفسيرات وأخطائها الشائعة
لماذا التفسير؟
- الثقة والقبول: الطبيب أو القاضي يحتاج سبب القرار.
- التصحيح: كشف اعتماد النموذج على أدلة مضللة (علامة مائية في صور الأشعة مثلاً).
- العدالة: كشف التحيز ضد فئات معينة.
- التنظيم: متطلبات قانونية للشفافية في الأنظمة عالية المخاطر.
| التصنيف | الخيار الأول | الخيار الثاني |
|---|---|---|
| النطاق | عام (Global) | محلي (Local) |
| التوقيت | جوهري (Intrinsic) | لاحق (Post-hoc) |
| الاعتماد على النموذج | خاص بالنموذج (Model-specific) | مستقل عنه (Model-agnostic) |
النموذج الخطي: مفهوم ذاتياً بشرط
% سعر منزل = f(المساحة بالمتر المربع، عدد الغرف)
X = [80 2; 120 3; 150 3; 200 4; 95 2; 175 4];
y = [100; 150; 175; 240; 115; 205]; % بآلاف الدولارات
w = [ones(6,1) X] \ y;
fprintf('raw coefficients: area %.4f per m^2, rooms %.4f per room\n', w(2), w(3));
Z = (X - mean(X)) ./ std(X);
ws = [ones(6,1) Z] \ y;
fprintf('standardized: area %.4f, rooms %.4f (per 1 std)\n', ws(2), ws(3));
R = corrcoef(X(:,1), X(:,2));
fprintf('corr(area, rooms) = %.4f\n', R(1, 2));raw coefficients: area 1.0566 per m^2, rooms 4.6698 per room standardized: area 49.2956, rooms 4.1768 (per 1 std) corr(area, rooms) = 0.9586
المعامل الخام للغرف يبدو صغيراً أو حتى سالباً لأن المساحة والغرف مترابطتان بشدة: يصبح معنى معامل الغرف «أثر غرفة إضافية مع ثبات المساحة». هذا التداخل الخطي (Multicollinearity) من أشهر مزالق تفسير المعاملات.
أخطاء شائعة
التفسيرات اللاحقة تقريبات، وقد تختلف بين الطرق نفسها على النموذج ذاته. لا تقدّم خريطة Grad-CAM أو قيم SHAP دليلاً على أن القرار صحيح أو عادل؛ هي فقط تشرح ما يفعله النموذج.
مختبر «الذكاء الاصطناعي القابل للتفسير» يولّد بيانات بأوزان حقيقية معروفة، فتستطيع مقارنة ما تكتشفه كل طريقة بالحقيقة.
خلاصة الدرس
- قابلية الفهم: قدرة الإنسان على فهم آلية النموذج نفسه (شجرة صغيرة، نموذج خطي).
- التفسير: طرق لاحقة تشرح قرارات نموذج معقد.
- التفسير العام يصف سلوك النموذج كله، والمحلي يشرح تنبؤاً واحداً.
- معاملات النموذج الخطي لا تُقارن إلا بعد توحيد مقياس الميزات.
- التفسير يصف النموذج لا العالم: علاقة قوية في النموذج ليست سببية بالضرورة.
شُغّل linear_interpret.m في GNU Octave 8.4.
المتطلبات البرمجية
- MATLAB
- Statistics and Machine Learning Toolbox
بعض هذه الأدوات (Toolboxes) تُرخَّص منفصلة عن MATLAB. تحقق من توفرها بالأمر ver في Command Window.
