الذكاء الاصطناعي القابل للتفسير
Explainable AI (XAI)
كيف نفهم قرارات النماذج ونشرحها ونتحقق من صدق هذا الشرح: النماذج القابلة للتفسير بطبيعتها، وأهمية السمات، وPDP، وLIME، وSHAP، والتفسيرات المضادة، وخرائط البروز وGrad-CAM، وتقييم التفسيرات.
- 12 درساً
- 3 مستويات
- 2.5 ساعة تقريباً
- 5 اختبارات
عن المسار
النموذج الدقيق لا يكفي في الطب والتمويل والقضاء وغيرها من المجالات عالية المخاطر؛ نحتاج إلى فهم لماذا قرر ما قرر، وهل يعتمد على أسباب مشروعة أم على اختصارات زائفة في البيانات. يقدم هذا المسار أدوات التفسير الرئيسة، مع تركيز خاص على حدودها: التفسير نفسه قد يكون مضللاً إذا لم نتحقق من صدقه.
المفاهيم والنماذج الشفافة
مبتدئ · Beginner · 46 دقيقة · 4 دروس
لماذا نفسّر، ولمن، وبأي نوع من التفسير، ومتى يكون النموذج الشفاف أفضل من تفسير نموذج غامض.
الأهداف التعليمية
- فهم دوافع التفسير وجمهوره
- التمييز بين أنواع التفسير
- استخدام النماذج القابلة للتفسير بطبيعتها
- حساب أهمية السمات بطريقة سليمة
المتطلبات السابقة
- إنهاء مسار تعلم الآلة
- لماذا نحتاج إلى التفسير؟ Why Explainability Matters 11 دقيقة
- تصنيف طرق التفسير A Taxonomy of Explanation Methods 10 دقيقة
- النماذج القابلة للتفسير بطبيعتها Inherently Interpretable Models 13 دقيقة
- أهمية السمات بالتبديل Permutation Feature Importance 12 دقيقة
تفسير النماذج المجدولة
متوسط · Intermediate · 52 دقيقة · 4 دروس
طرق مستقلة عن النموذج تشرح أثر السمات على التنبؤات عموماً أو لحالة واحدة.
الأهداف التعليمية
- فهم PDP وICE وALE
- تطبيق LIME وفهم عدم استقراره
- تطبيق SHAP وتفسير قيمه
- توليد تفسيرات مضادة قابلة للتنفيذ
المتطلبات السابقة
- إنهاء المستوى المبتدئ
- منحنيات الاعتماد الجزئي وICE وALE Partial Dependence, ICE and ALE Plots 13 دقيقة
- LIME: التفسير بالنماذج البديلة المحلية LIME: Local Surrogate Explanations 12 دقيقة
- قيم شابلي وSHAP Shapley Values and SHAP 15 دقيقة
- التفسيرات المضادة Counterfactual Explanations 12 دقيقة
تفسير الشبكات العميقة وتقييم التفسيرات
متقدم · Advanced · 53 دقيقة · 4 دروس
تفسير نماذج الصور والنصوص العميقة، والسؤال الأصعب: كيف نعرف أن التفسير صادق؟
الأهداف التعليمية
- تطبيق خرائط البروز وGrad-CAM والتدرجات المتكاملة
- فهم التفسيرات القائمة على المفاهيم
- تقييم صدق التفسيرات واختبارات السلامة
- تطبيق التفسير في السياقات الطبية والتنظيمية
المتطلبات السابقة
- إنهاء المستويين السابقين
- أساسيات التعلم العميق والشبكات التلافيفية
- خرائط البروز وGrad-CAM والتدرجات المتكاملة Saliency Maps, Grad-CAM and Integrated Gradients 15 دقيقة
- التفسير بالمفاهيم والتفسير الآلي Concept-based and Mechanistic Interpretability 12 دقيقة
- تقييم التفسيرات واختبارات السلامة Evaluating Explanations and Sanity Checks 14 دقيقة
- التفسير في المجالات عالية المخاطر Explainability in High-Stakes Domains 12 دقيقة
الاختبار النهائي: الذكاء الاصطناعي القابل للتفسير
15 سؤالاً من كل مستويات المسار · درجة النجاح 70% · اجتيازه يتيح شهادة اجتياز الاختبار.
