كتب الذكاء الاصطناعيمشاريع الذكاء الاصطناعيمقالات الذكاء الاصطناعيمعجم الذكاء الاصطناعياسئلة واجوبة في الذكاء الاصطناعيأكاديمية الذكاء الاصطناعي للأطفالأكاديمية الذكاء الاصطناعيمدرسة رياضيات الذكاء الاصطناعيمختبر الذكاء الاصطناعيمختبر الخوارزميات المستوحاة من الطبيعةأطلس نماذج الذكاء الاصطناعيموسوعة تطبيقات الذكاء الاصطناعيمستكشف مجموعات البيانات للذكاء الاصطناعياختبارات الذكاء الاصطناعيالفايب كودينغدليل البرمجة بالذكاء الاصطناعيمولّد مشاريع الذكاء الاصطناعيمرصد الذكاء الاصطناعيدليل أدوات الذكاء الاصطناعي البحث والنشر الأكاديميمكتبة البرومبتات الأكاديميةمستودع الرسائل والأطاريح في الذكاء الاصطناعيحاسبة الترقية العلميةأكاديمية الوكلاء الذكيينمختبر أخلاقيات الذكاء الاصطناعي والعدالةساحة ألعاب الذكاء الاصطناعيمختبر التنبؤ بالسلاسل الزمنيةمتحف الذكاء الاصطناعيمختبر الرؤية الحاسوبيةمختبر الشبكات العصبية البيانيةمختبر معالجة اللغة الطبيعيةمختبر الحوسبة الكمّيةخرائط طريق الذكاء الاصطناعيأكاديمية ماتلاب والذكاء الاصطناعيمصمم الشبكات العصبيةأكاديمية الذكاء الاصطناعي بدون برمجة

الذكاء الاصطناعي القابل للتفسير متوسط · Intermediate 12 دقيقة

LIME: التفسير بالنماذج البديلة المحلية

LIME: Local Surrogate Explanations

تقريب سلوك النموذج حول مثال واحد بنموذج خطي بسيط، وأسباب عدم استقراره.

تقدّمك في المسار0%

الخوارزمية

  1. اختر المثال \(x\).
  2. ولّد عينات مشوشة \(z_1, \dots, z_N\) حوله.
  3. احصل على \(f(z_i)\) من النموذج الأصلي.
  4. أعط كل عينة وزناً \(\pi_x(z_i)\) يتناقص مع البعد عن \(x\).
  5. درّب نموذجاً خطياً \(g\) على السمات المفهومة بالأوزان.

$$\xi(x) = \arg\min_{g \in G} \; \mathcal{L}(f, g, \pi_x) + \Omega(g)$$

حيث \(\Omega\) تعقيد التفسير، مثل عدد السمات.

مثال مجدول

# pip install lime
from lime.lime_tabular import LimeTabularExplainer
explainer = LimeTabularExplainer(X_tr.values, feature_names=list(X.columns),
                                 class_names=["malignant", "benign"], discretize_continuous=True,
                                 random_state=0)
exp = explainer.explain_instance(X_te.values[0], rf.predict_proba, num_features=6, num_samples=5000)
print(exp.as_list())

(يفترض المثال وجود rf وX_tr وX_te من درس أهمية السمات.)

الصور والنصوص

  • النص: إزالة كلمات عشوائياً، والتفسير يبرز الكلمات المؤثرة.
  • الصور: تقسيم الصورة إلى superpixels وإخفاء بعضها.

الحدود

المشكلةالتفصيل
عدم الاستقرارنتائج مختلفة بين التشغيلات
تعريف الجواراختيار عرض النواة يغير التفسير
عينات غير واقعيةالتشويش المستقل للسمات ينتج أمثلة خارج التوزيع
قابلية الخداعيمكن بناء نموذج يتصرف بشكل مختلف على العينات المشوشة فيخفي تحيزه

استخدم LIME أداة استكشاف أولية، ولا تعتمد عليها وحدها في قرار مهم.

مصطلحات الدرس

البكسلات الفائقة Superpixels
مناطق متجانسة في الصورة تُستخدم وحدات للتفسير بدلاً من البكسلات المفردة.
النموذج البديل المحلي Local Surrogate
نموذج بسيط يُدرَّب ليقلد سلوك النموذج المعقد في جوار مثال محدد.

الملخص

تولّد LIME عينات مشوشة حول المثال المراد تفسيره، وتحصل على تنبؤات النموذج لها، ثم تدرّب نموذجاً خطياً بسيطاً موزوناً بالقرب من المثال. معاملات هذا النموذج هي التفسير. تعمل مع البيانات المجدولة والنصوص والصور (عبر مناطق superpixels). عيوبها: تعتمد النتائج على طريقة التشويش وعرض النواة وعدد العينات، وقد تختلف التفسيرات بين تشغيلين، وقد ثبت إمكان خداعها بنماذج مصممة لذلك.

أسئلة مراجعة

  1. ما الذي يحدد "الجوار" في LIME؟

    طريقة توليد العينات المشوشة ودالة النواة وعرضها التي تعطي وزناً أكبر للعينات القريبة.

  2. كيف نتحقق من استقرار تفسير LIME؟

    نكرر التفسير ببذور مختلفة وعدد عينات أكبر ونقارن السمات الأهم.

المصادر والمراجع

  1. Ribeiro, Singh & Guestrin (2016) — "Why Should I Trust You?" Explaining the Predictions of Any Classifier
  2. LIME GitHub Repository
  3. Slack et al. (2020) — Fooling LIME and SHAP

إكمال الدرس