Explainable AI
الذكاء الاصطناعي القابل للتفسير
التعريف
مجموعة أساليب تجعل قرارات النماذج مفهومة للبشر وتبيّن سبب تنبؤها.
تشمل نماذج مفسَّرة بطبيعتها (الأشجار والانحدار) وطرق لاحقة مثل SHAP وLIME وخرائط الأهمية. التفسير مهم للثقة والامتثال وكشف التحيز، لكنه قد لا يعكس الآلية الحقيقية للنموذج.
Definition
Explainable AI encompasses methods that make model predictions understandable, via inherently interpretable models or post-hoc techniques such as SHAP and LIME.
شرح مبسّط للمبتدئين
كطبيب لا يكتفي بقول «أنت مريض» بل يشرح الأسباب والفحوص التي دلّته.
شرح أكاديمي متخصص
تعتمد SHAP على قيم شابلي من نظرية الألعاب لتوزيع مساهمة كل خاصية.
أمثلة عملية
- إظهار أن الدخل أهم عامل في رفض قرض.
التطبيقات والاستخدامات
- التمويل والطب.
المزايا
- ثقة ومساءلة.
القيود والعيوب
- قد تكون التفسيرات مضللة.
