كتب الذكاء الاصطناعيمشاريع الذكاء الاصطناعيمقالات الذكاء الاصطناعيمعجم الذكاء الاصطناعياسئلة واجوبة في الذكاء الاصطناعيأكاديمية الذكاء الاصطناعي للأطفالأكاديمية الذكاء الاصطناعيمدرسة رياضيات الذكاء الاصطناعيمختبر الذكاء الاصطناعيمختبر الخوارزميات المستوحاة من الطبيعةأطلس نماذج الذكاء الاصطناعيموسوعة تطبيقات الذكاء الاصطناعيمستكشف مجموعات البيانات للذكاء الاصطناعياختبارات الذكاء الاصطناعيالفايب كودينغدليل البرمجة بالذكاء الاصطناعيمولّد مشاريع الذكاء الاصطناعيمرصد الذكاء الاصطناعيدليل أدوات الذكاء الاصطناعي البحث والنشر الأكاديميمكتبة البرومبتات الأكاديميةمستودع الرسائل والأطاريح في الذكاء الاصطناعيحاسبة الترقية العلميةأكاديمية الوكلاء الذكيينمختبر أخلاقيات الذكاء الاصطناعي والعدالةساحة ألعاب الذكاء الاصطناعيمختبر التنبؤ بالسلاسل الزمنيةمتحف الذكاء الاصطناعيمختبر الرؤية الحاسوبيةمختبر الشبكات العصبية البيانيةمختبر معالجة اللغة الطبيعيةمختبر الحوسبة الكمّيةخرائط طريق الذكاء الاصطناعيأكاديمية ماتلاب والذكاء الاصطناعيمصمم الشبكات العصبيةأكاديمية الذكاء الاصطناعي بدون برمجة

مختبر الذكاء الاصطناعي القابل للتفسير

Explainable AI Lab

أهمية الخصائص وSHAP الدقيق وLIME والاعتماد الجزئي والأمثلة المضادة ومقارنة الصندوق الأسود بالنموذج القابل للتفسير، على نماذج تُدرَّب في متصفحك.

English

تجارب الوحدة (6)

مبتدئمختبر الذكاء الاصطناعي القابل للتفسيرأهمية الخصائص بالتبديلمعرفة الخصائص التي يعتمد عليها النموذج إجمالاً بقياس انخفاض الأداء عند خلطها.افتح التجربةمتوسطمختبر الذكاء الاصطناعي القابل للتفسيرقيم SHAP لقرار فرديتفسير قرار متقدم واحد بقيم شابلي محسوبة بدقة (Exact) على خمس خصائص.افتح التجربةمتوسطمختبر الذكاء الاصطناعي القابل للتفسيرتفسير LIME واستقرارهبناء نموذج خطي محلي حول القرار وقياس تغيّر التفسير بين تكرارات العيّنة.افتح التجربةمتوسطمختبر الذكاء الاصطناعي القابل للتفسيرالاعتماد الجزئي ومنحنيات ICEرؤية كيف يتغير التنبؤ في المتوسط ولكل فرد حين تتغير خاصية واحدة.افتح التجربةمتوسطمختبر الذكاء الاصطناعي القابل للتفسيرالمثال المضاد: ماذا يغيّر القرار؟إيجاد أصغر تغيير واقعي في الخصائص القابلة للتغيير يقلب قرار الرفض.افتح التجربةمتقدممختبر الذكاء الاصطناعي القابل للتفسيرالصندوق الأسود مقابل النموذج القابل للتفسيرمقارنة الأداء والتفسير بين انحدار لوجستي وشبكة عصبية على البيانات نفسها.افتح التجربة

المفاهيم والمعادلات

معادلة قيمة شابلي (Shapley value)

v(S) متوسط تنبؤ النموذج حين تُثبت خصائص S وتُؤخذ البقية من الخلفية.

\phi_i=\sum_{S\subseteq F\setminus\{i\}}\frac{|S|!\,(|F|-|S|-1)!}{|F|!}\left[v(S\cup\{i\})-v(S)\right]

جرّبه في: قيم SHAP لقرار فردي

معادلة خاصية الكفاءة في SHAP (SHAP efficiency)

مجموع قيم SHAP يساوي الفرق بين تنبؤ الحالة ومتوسط التنبؤ.

f(x)=\mathbb{E}[f(X)]+\sum_{i=1}^{M}\phi_i

جرّبه في: قيم SHAP لقرار فردي

معادلة هدف LIME (LIME objective)

يلائم نموذجاً بسيطاً g يقارب f قرب x بأوزان القرب.

\xi(x)=\arg\min_{g\in G}\;\mathcal{L}(f,g,\pi_x)+\Omega(g),\quad \pi_x(z)=\exp\!\left(-\frac{D(x,z)^2}{\sigma^2}\right)

جرّبه في: تفسير LIME واستقراره

الذكاء الاصطناعي القابل للتفسير (Explainable AI, XAI)

أساليب تجعل أسباب قرارات النموذج مفهومة للبشر. تنقسم إلى نماذج قابلة للتفسير بطبيعتها (انحدار لوجستي، أشجار صغيرة) وتفسيرات لاحقة (Post-hoc) لنماذج معقدة، وإلى تفسير عام (Global) لسلوك النموذج كله وتفسير محلي (Local) لقرار واحد. التفسير يصف النموذج لا الواقع، ولا يثبت السببية.

جرّبه في: أهمية الخصائص بالتبديل

قيم SHAP (SHapley Additive exPlanations)

توزع الفرق بين تنبؤ الحالة ومتوسط التنبؤ على الخصائص وفق قيم شابلي من نظرية الألعاب التعاونية (Lundberg وLee 2017). خصائصها: الكفاءة (المجموع يساوي الفرق)، والتماثل، والصفرية. في المختبر تُحسب بدقة (Exact) بتقييم كل التحالفات الـ32 لخمس خصائص مقابل خلفية من البيانات، وطابقت مكتبة shap حتى 10⁻⁹.

جرّبه في: قيم SHAP لقرار فردي

LIME (Local Interpretable Model-agnostic Explanations)

يفسر قراراً واحداً ببناء نموذج خطي بسيط حول الحالة: يسحب عينات مشوشة قريبة منها، ويحسب تنبؤات النموذج الأصلي، ويزنها بقربها (نواة أسية)، ثم يلائم انحداراً موزوناً (Ribeiro وآخرون 2016). نتيجته تعتمد على العيّنة وعرض النواة، لذلك يقيس المختبر استقراره عبر عدة بذور.

جرّبه في: تفسير LIME واستقراره

أهمية الخصائص بالتبديل (Permutation Importance)

تقيس انخفاض أداء النموذج حين تُخلط قيم خاصية واحدة عشوائياً، فتكسر علاقتها بالهدف. انخفاض كبير يعني اعتماداً كبيراً عليها. الخصائص المترابطة قد تتقاسم الأهمية فيبدو كل منها أقل أهمية.

جرّبه في: أهمية الخصائص بالتبديل

الاعتماد الجزئي ومنحنيات ICE

منحنى الاعتماد الجزئي (PDP) يعرض متوسط تنبؤ النموذج عند تثبيت خاصية على قيم مختلفة. منحنيات ICE تعرض المنحنى نفسه لكل فرد على حدة، فتكشف التفاعلات التي يخفيها المتوسط (Goldstein وآخرون).

جرّبه في: الاعتماد الجزئي ومنحنيات ICE

التفسير بالمثال المضاد (Counterfactual Explanation)

يجيب عن سؤال: ما أصغر تغيير في مدخلاتي كان سيغير القرار؟ (Wachter وآخرون 2017). يمنح المتأثر مساراً عملياً للطعن أو التحسن (Recourse) دون كشف النموذج، بشرط أن يقتصر على خصائص قابلة للتغيير وواقعية.

جرّبه في: المثال المضاد: ماذا يغيّر القرار؟

أسئلة وأدلة

هل تعني قيم SHAP أن الخاصية تسبب النتيجة؟

لا. SHAP يصف كيف يستخدم النموذج الخصائص في تنبؤه، لا العلاقات السببية في الواقع. الخصائص المترابطة قد تتبادل الأهمية، والتفسير يعتمد على اختيار بيانات الخلفية.

جرّبه في: قيم SHAP لقرار فردي

ما الفرق بين SHAP وLIME؟

كلاهما تفسير محلي لقرار واحد. SHAP يستند إلى قيم شابلي ويضمن أن مجموع المساهمات يساوي الفرق عن المتوسط، وحسابه الدقيق مكلف مع كثرة الخصائص. LIME يلائم نموذجاً خطياً موزوناً حول الحالة؛ أسرع ومرن لكنه أقل استقراراً ويعتمد على العيّنة وعرض النواة.

جرّبه في: تفسير LIME واستقراره

مراجع الوحدة

  1. SHAP documentationS. Lundberg et al. (2025) — أداة
  2. LIME — Local Interpretable Model-agnostic Explanations (code)M. T. Ribeiro (2016) — أداة
  3. Interpretable Machine LearningC. Molnar (2025) — كتاب
  4. scikit-learn — Permutation feature importancescikit-learn developers (2025) — أداة
  5. scikit-learn — Partial dependence and ICE plotsscikit-learn developers (2025) — أداة
  6. A Unified Approach to Interpreting Model Predictions (arXiv:1705.07874)S. Lundberg, S.-I. Lee (2017) — ورقة علمية
  7. "Why Should I Trust You?" Explaining the Predictions of Any Classifier (arXiv:1602.04938)M. T. Ribeiro, S. Singh, C. Guestrin (2016) — ورقة علمية
  8. Counterfactual Explanations without Opening the Black Box (arXiv:1711.00399)S. Wachter, B. Mittelstadt, C. Russell (2017) — ورقة علمية
  9. Peeking Inside the Black Box: ICE plots (arXiv:1309.6392)A. Goldstein, A. Kapelner, J. Bleich, E. Pitkin (2013) — ورقة علمية