مختبر الذكاء الاصطناعي القابل للتفسير
Explainable AI Lab
أهمية الخصائص وSHAP الدقيق وLIME والاعتماد الجزئي والأمثلة المضادة ومقارنة الصندوق الأسود بالنموذج القابل للتفسير، على نماذج تُدرَّب في متصفحك.
Englishتجارب الوحدة (6)
المفاهيم والمعادلات
معادلة قيمة شابلي (Shapley value)
v(S) متوسط تنبؤ النموذج حين تُثبت خصائص S وتُؤخذ البقية من الخلفية.
\phi_i=\sum_{S\subseteq F\setminus\{i\}}\frac{|S|!\,(|F|-|S|-1)!}{|F|!}\left[v(S\cup\{i\})-v(S)\right]معادلة خاصية الكفاءة في SHAP (SHAP efficiency)
مجموع قيم SHAP يساوي الفرق بين تنبؤ الحالة ومتوسط التنبؤ.
f(x)=\mathbb{E}[f(X)]+\sum_{i=1}^{M}\phi_iمعادلة هدف LIME (LIME objective)
يلائم نموذجاً بسيطاً g يقارب f قرب x بأوزان القرب.
\xi(x)=\arg\min_{g\in G}\;\mathcal{L}(f,g,\pi_x)+\Omega(g),\quad \pi_x(z)=\exp\!\left(-\frac{D(x,z)^2}{\sigma^2}\right)الذكاء الاصطناعي القابل للتفسير (Explainable AI, XAI)
أساليب تجعل أسباب قرارات النموذج مفهومة للبشر. تنقسم إلى نماذج قابلة للتفسير بطبيعتها (انحدار لوجستي، أشجار صغيرة) وتفسيرات لاحقة (Post-hoc) لنماذج معقدة، وإلى تفسير عام (Global) لسلوك النموذج كله وتفسير محلي (Local) لقرار واحد. التفسير يصف النموذج لا الواقع، ولا يثبت السببية.
قيم SHAP (SHapley Additive exPlanations)
توزع الفرق بين تنبؤ الحالة ومتوسط التنبؤ على الخصائص وفق قيم شابلي من نظرية الألعاب التعاونية (Lundberg وLee 2017). خصائصها: الكفاءة (المجموع يساوي الفرق)، والتماثل، والصفرية. في المختبر تُحسب بدقة (Exact) بتقييم كل التحالفات الـ32 لخمس خصائص مقابل خلفية من البيانات، وطابقت مكتبة shap حتى 10⁻⁹.
LIME (Local Interpretable Model-agnostic Explanations)
يفسر قراراً واحداً ببناء نموذج خطي بسيط حول الحالة: يسحب عينات مشوشة قريبة منها، ويحسب تنبؤات النموذج الأصلي، ويزنها بقربها (نواة أسية)، ثم يلائم انحداراً موزوناً (Ribeiro وآخرون 2016). نتيجته تعتمد على العيّنة وعرض النواة، لذلك يقيس المختبر استقراره عبر عدة بذور.
أهمية الخصائص بالتبديل (Permutation Importance)
تقيس انخفاض أداء النموذج حين تُخلط قيم خاصية واحدة عشوائياً، فتكسر علاقتها بالهدف. انخفاض كبير يعني اعتماداً كبيراً عليها. الخصائص المترابطة قد تتقاسم الأهمية فيبدو كل منها أقل أهمية.
الاعتماد الجزئي ومنحنيات ICE
منحنى الاعتماد الجزئي (PDP) يعرض متوسط تنبؤ النموذج عند تثبيت خاصية على قيم مختلفة. منحنيات ICE تعرض المنحنى نفسه لكل فرد على حدة، فتكشف التفاعلات التي يخفيها المتوسط (Goldstein وآخرون).
التفسير بالمثال المضاد (Counterfactual Explanation)
يجيب عن سؤال: ما أصغر تغيير في مدخلاتي كان سيغير القرار؟ (Wachter وآخرون 2017). يمنح المتأثر مساراً عملياً للطعن أو التحسن (Recourse) دون كشف النموذج، بشرط أن يقتصر على خصائص قابلة للتغيير وواقعية.
أسئلة وأدلة
هل تعني قيم SHAP أن الخاصية تسبب النتيجة؟
لا. SHAP يصف كيف يستخدم النموذج الخصائص في تنبؤه، لا العلاقات السببية في الواقع. الخصائص المترابطة قد تتبادل الأهمية، والتفسير يعتمد على اختيار بيانات الخلفية.
ما الفرق بين SHAP وLIME؟
كلاهما تفسير محلي لقرار واحد. SHAP يستند إلى قيم شابلي ويضمن أن مجموع المساهمات يساوي الفرق عن المتوسط، وحسابه الدقيق مكلف مع كثرة الخصائص. LIME يلائم نموذجاً خطياً موزوناً حول الحالة؛ أسرع ومرن لكنه أقل استقراراً ويعتمد على العيّنة وعرض النواة.
مراجع الوحدة
- SHAP documentationS. Lundberg et al. (2025) — أداة
- LIME — Local Interpretable Model-agnostic Explanations (code)M. T. Ribeiro (2016) — أداة
- Interpretable Machine LearningC. Molnar (2025) — كتاب
- scikit-learn — Permutation feature importancescikit-learn developers (2025) — أداة
- scikit-learn — Partial dependence and ICE plotsscikit-learn developers (2025) — أداة
- A Unified Approach to Interpreting Model Predictions (arXiv:1705.07874)S. Lundberg, S.-I. Lee (2017) — ورقة علمية
- "Why Should I Trust You?" Explaining the Predictions of Any Classifier (arXiv:1602.04938)M. T. Ribeiro, S. Singh, C. Guestrin (2016) — ورقة علمية
- Counterfactual Explanations without Opening the Black Box (arXiv:1711.00399)S. Wachter, B. Mittelstadt, C. Russell (2017) — ورقة علمية
- Peeking Inside the Black Box: ICE plots (arXiv:1309.6392)A. Goldstein, A. Kapelner, J. Bleich, E. Pitkin (2013) — ورقة علمية
