الفرق بينSHAP وLIME في تفسير النماذج العميقة يكمن في المنهجية والدقة والاستقرار:
• LIME (Local Interpretable Model-agnostic Explanations): يعمل على تفسير قرارات النموذج محليًا عبر تقريب النموذج المعقد بنموذج بسيط (مثل الانحدار الخطي) حول عينة محددة. يقوم بإنشاء بيانات معدلة بالقرب من هذه العينة، ثم يدرس كيف تتغير التنبؤات لفهم تأثير كل ميزة. يتميز بالبساطة والسرعة، لكنه قد يفتقر إلى الاتساق عند تكرار التفسير.
• SHAP (SHapley Additive exPlanations): يعتمد على نظرية الألعاب (Shapley Values) لتحديد مساهمة كل ميزة في التنبؤ، ويوفّر تفسيرًا عادلًا ومتسقًا لكل ميزة عبر جميع العينات. يتميز بالدقة والاتساق في التفسير مقارنة بـ LIME، لكنه أكثر تكلفة حسابيًا.
ا.م.د. علاء طعيمة عبد الكاظم
أستاذ مساعد دكتور في الذكاء الاصطناعي والتعلم العميق