مختبر الرؤية الحاسوبية الدروس الذكاء الاصطناعي القابل للتفسير في الرؤية
الذكاء الاصطناعي القابل للتفسير في الرؤية
Explainable AI for vision
لماذا نفسر النماذج، وأنواع طرق التفسير، وحدودها.
هذا المحتوى أُعدّ آلياً من مصادر موثقة ولم تكتمل مراجعته العلمية البشرية بعد. إن وجدت خطأً فأبلغنا.
المقدمة
النموذج الدقيق قد يكون محقاً لأسباب خاطئة؛ التفسير يساعد على كشف ذلك.
الأهداف التعليمية
- التمييز بين طرق التدرج والاضطراب والانتباه.
- فهم حدود الخرائط البارزة.
- التحقق المتقاطع بين الطرق.
المتطلبات السابقة
تصنيف الصور.
الشرح العلمي
طرق التدرج (Grad-CAM، IG) تعتمد على مشتقات النموذج. طرق الاضطراب (Occlusion، LIME) تغير المدخل وتراقب المخرج، وتعمل مع أي نموذج. خرائط الانتباه تصف تدفق المعلومات داخل المحوّل. أظهرت اختبارات السلامة (Adebayo وآخرون) أن بعض الخرائط تبقى متشابهة حتى مع أوزان عشوائية، فلا تُعامل الخريطة دليلاً قاطعاً.
المعادلات الرياضية
Grad-CAM: L = ReLU(Σ_k α_k A^k).
مثال عملي
إذا ركزت خريطة Grad-CAM لصورة «سفينة» على الماء لا على السفينة، فقد تعلّم النموذج الاعتماد على الخلفية.
خطوات التنفيذ
- افتح مختبر التفسير.
- شغّل Grad-CAM ثم قارن بـ Occlusion.
- اقرأ معامل الارتباط بين الخريطتين.
النتائج المتوقعة
ارتباط مرتفع يعطي ثقة أكبر بأن المنطقة مهمة فعلاً للنموذج.
الأخطاء الشائعة
الثقة بطريقة واحدة، أو تفسير الخريطة على أنها تعليل طبي.
التطبيقات العملية
تدقيق النماذج الطبية، كشف التحيز، التعليم.
المراجع
- R. R. Selvaraju et al. (2017).Grad-CAM: Visual Explanations from Deep Networks via Gradient-Based Localization. ICCV 2017. doi:10.1109/ICCV.2017.74
- M. T. Ribeiro, S. Singh, C. Guestrin (2016)."Why Should I Trust You?": Explaining the Predictions of Any Classifier. KDD 2016. doi:10.1145/2939672.2939778
- J. Adebayo et al. (2018).Sanity Checks for Saliency Maps. arXiv:1810.03292 (NeurIPS 2018). doi:10.48550/arXiv.1810.03292
- M. D. Zeiler, R. Fergus (2014).Visualizing and Understanding Convolutional Networks. ECCV 2014 (LNCS 8689). doi:10.1007/978-3-319-10590-1_53
