قيم SHAP لقرار فردي
SHAP values for one decision
تفسير قرار متقدم واحد بقيم شابلي محسوبة بدقة (Exact) على خمس خصائص.
Englishالفكرة
غيّر المعدل والخبرة والدخل وسنوات الدراسة ودرجة الاختبار؛ تُحسب كل التحالفات (2⁵) مقابل خلفية من البيانات.
وصف البيانات
بيانات اصطناعية تولّد في متصفحك من توزيعات معلنة؛ لا تحتوي أي بيانات شخصية حقيقية.
التجربة التالية المقترحة
مفاهيم هذه التجربة
هل تعني قيم SHAP أن الخاصية تسبب النتيجة؟
لا. SHAP يصف كيف يستخدم النموذج الخصائص في تنبؤه، لا العلاقات السببية في الواقع. الخصائص المترابطة قد تتبادل الأهمية، والتفسير يعتمد على اختيار بيانات الخلفية.
معادلة قيمة شابلي (Shapley value)
v(S) متوسط تنبؤ النموذج حين تُثبت خصائص S وتُؤخذ البقية من الخلفية.
\phi_i=\sum_{S\subseteq F\setminus\{i\}}\frac{|S|!\,(|F|-|S|-1)!}{|F|!}\left[v(S\cup\{i\})-v(S)\right]معادلة خاصية الكفاءة في SHAP (SHAP efficiency)
مجموع قيم SHAP يساوي الفرق بين تنبؤ الحالة ومتوسط التنبؤ.
f(x)=\mathbb{E}[f(X)]+\sum_{i=1}^{M}\phi_iقيم SHAP (SHapley Additive exPlanations)
توزع الفرق بين تنبؤ الحالة ومتوسط التنبؤ على الخصائص وفق قيم شابلي من نظرية الألعاب التعاونية (Lundberg وLee 2017). خصائصها: الكفاءة (المجموع يساوي الفرق)، والتماثل، والصفرية. في المختبر تُحسب بدقة (Exact) بتقييم كل التحالفات الـ32 لخمس خصائص مقابل خلفية من البيانات، وطابقت مكتبة shap حتى 10⁻⁹.
المراجع العلمية للتجربة
- A Unified Approach to Interpreting Model Predictions (arXiv:1705.07874)S. Lundberg, S.-I. Lee (2017) — ورقة علمية
- SHAP documentationS. Lundberg et al. (2025) — أداة
