مختبر الرؤية الحاسوبية الدروس تقييم التفسيرات وحدودها
تقييم التفسيرات وحدودها
Evaluating explanations
اختبارات السلامة، والاتفاق بين الطرق، ولماذا لا تكفي خريطة جميلة.
هذا المحتوى أُعدّ آلياً من مصادر موثقة ولم تكتمل مراجعته العلمية البشرية بعد. إن وجدت خطأً فأبلغنا.
المقدمة
التفسير نفسه يحتاج إلى تقييم، وإلا صار مصدر ثقة زائفة.
الأهداف التعليمية
- فهم اختبارات عشوائية الأوزان.
- استخدام الاتفاق بين الطرق.
- التمييز بين المعقولية والأمانة.
المتطلبات السابقة
الذكاء الاصطناعي القابل للتفسير.
الشرح العلمي
التفسير «المعقول» يبدو منطقياً للإنسان، و«الأمين» يعكس فعلاً ما يعتمد عليه النموذج. اختبار عشوائية الأوزان: إذا لم تتغير الخريطة بعد تخريب النموذج فهي لا تعكسه. الاتفاق بين طريقتين مختلفتي المبدأ (تدرج واضطراب) يرفع الثقة دون أن يكون برهاناً.
المعادلات الرياضية
معامل ارتباط بيرسون بين خريطتين: ρ = cov(a, b)/(σ_a σ_b).
مثال عملي
المختبر يحسب ρ بين أي طريقتين تختارهما على الصورة نفسها والفئة نفسها.
خطوات التنفيذ
- شغّل Grad-CAM.
- قارن بـ Occlusion ثم بـ LIME.
- سجّل قيم ρ.
النتائج المتوقعة
قيم ρ متفاوتة تبين أن الطرق لا تتفق دائماً.
الأخطاء الشائعة
نشر خرائط تفسير في ورقة طبية دون أي اختبار لسلامتها.
التطبيقات العملية
البحث العلمي في XAI، تدقيق النماذج.
المراجع
- J. Adebayo et al. (2018).Sanity Checks for Saliency Maps. arXiv:1810.03292 (NeurIPS 2018). doi:10.48550/arXiv.1810.03292
- R. R. Selvaraju et al. (2017).Grad-CAM: Visual Explanations from Deep Networks via Gradient-Based Localization. ICCV 2017. doi:10.1109/ICCV.2017.74
