كتب الذكاء الاصطناعيمشاريع الذكاء الاصطناعيمقالات الذكاء الاصطناعيمعجم الذكاء الاصطناعياسئلة واجوبة في الذكاء الاصطناعيأكاديمية الذكاء الاصطناعي للأطفالأكاديمية الذكاء الاصطناعيمدرسة رياضيات الذكاء الاصطناعيمختبر الذكاء الاصطناعيمختبر الخوارزميات المستوحاة من الطبيعةأطلس نماذج الذكاء الاصطناعيموسوعة تطبيقات الذكاء الاصطناعيمستكشف مجموعات البيانات للذكاء الاصطناعياختبارات الذكاء الاصطناعيالفايب كودينغدليل البرمجة بالذكاء الاصطناعيمولّد مشاريع الذكاء الاصطناعيمرصد الذكاء الاصطناعيدليل أدوات الذكاء الاصطناعي البحث والنشر الأكاديميمكتبة البرومبتات الأكاديميةمستودع الرسائل والأطاريح في الذكاء الاصطناعيحاسبة الترقية العلميةأكاديمية الوكلاء الذكيينمختبر أخلاقيات الذكاء الاصطناعي والعدالةساحة ألعاب الذكاء الاصطناعيمختبر التنبؤ بالسلاسل الزمنيةمتحف الذكاء الاصطناعيمختبر الرؤية الحاسوبيةمختبر الشبكات العصبية البيانيةمختبر معالجة اللغة الطبيعيةمختبر الحوسبة الكمّيةخرائط طريق الذكاء الاصطناعي

الذكاء الاصطناعي القابل للتفسير متوسط · Intermediate 15 دقيقة

قيم شابلي وSHAP

Shapley Values and SHAP

إسناد التنبؤ إلى السمات بطريقة مستمدة من نظرية الألعاب، مع خصائص رياضية واضحة.

تقدّمك في المسار0%

تعريف قيمة شابلي

$$\phi_j = \sum_{S \subseteq F \setminus \{j\}} \frac{|S|!\,(|F|-|S|-1)!}{|F|!}\Big[v(S \cup \{j\}) – v(S)\Big]$$

\(v(S)\) قيمة التحالف \(S\)، وفي SHAP هي التنبؤ المتوقع عند معرفة السمات في \(S\) فقط.

الخاصية المفتاحية

$$f(x) = \mathbb{E}[f(X)] + \sum_{j=1}^{M} \phi_j$$

مثال عملي

# pip install shap xgboost
import shap, xgboost
from sklearn.datasets import fetch_california_housing
X, y = fetch_california_housing(return_X_y=True, as_frame=True)
model = xgboost.XGBRegressor(n_estimators=300, max_depth=4).fit(X, y)
explainer = shap.Explainer(model, X.sample(200, random_state=0))   # بيانات الخلفية
sv = explainer(X.iloc[:500])
shap.plots.waterfall(sv[0])     # تفسير مثال واحد
shap.plots.beeswarm(sv)         # صورة عامة

أنواع المفسرات

المفسرلأي نماذجملاحظة
TreeSHAPالأشجار والمعززاتدقيق وسريع
KernelSHAPأي نموذجتقريبي وبطيء مع سمات كثيرة
DeepSHAP / GradientSHAPالشبكات العصبيةتقريبات معتمدة على التدرج
LinearSHAPالنماذج الخطيةصيغة مغلقة

قراءة الرسوم

  • Waterfall: من القيمة الأساسية إلى التنبؤ عبر إسهام كل سمة.
  • Beeswarm: لكل سمة نقطة لكل مثال؛ اللون قيمة السمة والموضع قيمة SHAP.
  • Dependence: قيمة SHAP مقابل قيمة السمة، ويكشف التفاعلات.

تحذيرات

  • اختيار بيانات الخلفية وتعريف “التدخل” أو “الشرط” يغيران النتائج.
  • السمات المترابطة تتقاسم الإسهام بطرق قد تكون غير بديهية.
  • الأرقام الدقيقة لا تعني يقيناً؛ قارن بطرق أخرى قبل الاستنتاج.

مصطلحات الدرس

بيانات الخلفية Background Data
عينة مرجعية تُستخدم لتمثيل غياب السمة عند حساب قيم SHAP.
خاصية الكفاءة Efficiency Property
مجموع قيم SHAP لكل السمات يساوي الفرق بين تنبؤ المثال والقيمة المتوقعة للنموذج.
قيمة شابلي Shapley Value
متوسط الإسهام الحدي للاعب عبر كل الترتيبات الممكنة لانضمام اللاعبين إلى التحالف.

الملخص

قيم شابلي توزع "مكسب" التحالف على اللاعبين بحسب متوسط إسهامهم الحدي عبر كل ترتيبات الانضمام. في SHAP اللاعبون هم السمات، والمكسب هو الفرق بين تنبؤ المثال والتنبؤ المتوسط. تحقق خصائص الكفاءة والتماثل واللاعب الصفري. الحساب الدقيق أسي، فتُستخدم تقريبات مثل KernelSHAP، وطرق دقيقة وسريعة للأشجار مثل TreeSHAP. النتائج تعتمد على بيانات الخلفية وتعريف "غياب" السمة، وهي ليست تفسيرات سببية.

أسئلة مراجعة

  1. ماذا تعني خاصية الكفاءة عملياً؟

    أن قيم SHAP لمثال تجمع بالضبط الفرق بين تنبؤه ومتوسط التنبؤات على بيانات الخلفية.

  2. لماذا قد تتغير قيم SHAP عند تغيير بيانات الخلفية؟

    لأن "غياب" السمة يُمثَّل بقيمها في الخلفية، فتغيير المرجع يغير الإسهامات.

المصادر والمراجع

  1. Lundberg & Lee (2017) — A Unified Approach to Interpreting Model Predictions
  2. Lundberg et al. (2020) — From local explanations to global understanding with explainable AI for trees
  3. SHAP Documentation

إكمال الدرس