LIME: التفسير بالنماذج البديلة المحلية
LIME: Local Surrogate Explanations
تقريب سلوك النموذج حول مثال واحد بنموذج خطي بسيط، وأسباب عدم استقراره.
الخوارزمية
- اختر المثال \(x\).
- ولّد عينات مشوشة \(z_1, \dots, z_N\) حوله.
- احصل على \(f(z_i)\) من النموذج الأصلي.
- أعط كل عينة وزناً \(\pi_x(z_i)\) يتناقص مع البعد عن \(x\).
- درّب نموذجاً خطياً \(g\) على السمات المفهومة بالأوزان.
$$\xi(x) = \arg\min_{g \in G} \; \mathcal{L}(f, g, \pi_x) + \Omega(g)$$
حيث \(\Omega\) تعقيد التفسير، مثل عدد السمات.
مثال مجدول
# pip install lime
from lime.lime_tabular import LimeTabularExplainer
explainer = LimeTabularExplainer(X_tr.values, feature_names=list(X.columns),
class_names=["malignant", "benign"], discretize_continuous=True,
random_state=0)
exp = explainer.explain_instance(X_te.values[0], rf.predict_proba, num_features=6, num_samples=5000)
print(exp.as_list())(يفترض المثال وجود rf وX_tr وX_te من درس أهمية السمات.)
الصور والنصوص
- النص: إزالة كلمات عشوائياً، والتفسير يبرز الكلمات المؤثرة.
- الصور: تقسيم الصورة إلى superpixels وإخفاء بعضها.
الحدود
| المشكلة | التفصيل |
|---|---|
| عدم الاستقرار | نتائج مختلفة بين التشغيلات |
| تعريف الجوار | اختيار عرض النواة يغير التفسير |
| عينات غير واقعية | التشويش المستقل للسمات ينتج أمثلة خارج التوزيع |
| قابلية الخداع | يمكن بناء نموذج يتصرف بشكل مختلف على العينات المشوشة فيخفي تحيزه |
استخدم LIME أداة استكشاف أولية، ولا تعتمد عليها وحدها في قرار مهم.
مصطلحات الدرس
- البكسلات الفائقة Superpixels
- مناطق متجانسة في الصورة تُستخدم وحدات للتفسير بدلاً من البكسلات المفردة.
- النموذج البديل المحلي Local Surrogate
- نموذج بسيط يُدرَّب ليقلد سلوك النموذج المعقد في جوار مثال محدد.
الملخص
تولّد LIME عينات مشوشة حول المثال المراد تفسيره، وتحصل على تنبؤات النموذج لها، ثم تدرّب نموذجاً خطياً بسيطاً موزوناً بالقرب من المثال. معاملات هذا النموذج هي التفسير. تعمل مع البيانات المجدولة والنصوص والصور (عبر مناطق superpixels). عيوبها: تعتمد النتائج على طريقة التشويش وعرض النواة وعدد العينات، وقد تختلف التفسيرات بين تشغيلين، وقد ثبت إمكان خداعها بنماذج مصممة لذلك.
أسئلة مراجعة
-
ما الذي يحدد "الجوار" في LIME؟
طريقة توليد العينات المشوشة ودالة النواة وعرضها التي تعطي وزناً أكبر للعينات القريبة.
-
كيف نتحقق من استقرار تفسير LIME؟
نكرر التفسير ببذور مختلفة وعدد عينات أكبر ونقارن السمات الأهم.
المصادر والمراجع
إكمال الدرس
أكملت كل دروس المسار! يمكنك الآن طلب شهادة إكمال المسار.
اطلب الشهادة