مختبر الرؤية الحاسوبية الدروس التدرجات المتكاملة

التدرجات المتكاملة

Integrated Gradients

الطريقة المسلّماتية لنسب الأهمية، ودور الصورة الأساس.

متقدم35 دقيقةالذكاء الاصطناعي القابل للتفسيرالتفسير البصري وخرائط الانتباه

هذا المحتوى أُعدّ آلياً من مصادر موثقة ولم تكتمل مراجعته العلمية البشرية بعد. إن وجدت خطأً فأبلغنا.

المقدمة

التدرج في نقطة واحدة قد يكون مشبعاً؛ IG يجمع التدرجات على مسار كامل.

الأهداف التعليمية

  • فهم مسلّمتي الحساسية والاكتمال.
  • تقريب التكامل.
  • اختيار الأساس.

المتطلبات السابقة

Grad-CAM بالتفصيل.

الشرح العلمي

نبدأ من صورة أساس x′ (سوداء غالباً) ونتحرك خطياً إلى الصورة x، ونجمع التدرج عند كل خطوة ونضربه في (x − x′). مجموع النسب يساوي فرق مخرج النموذج بين الصورة والأساس، ويمكن قياس خطأ التقريب بهذا الفرق. يحتاج إلى تدرجات كاملة عبر الشبكة، لذلك يعمل في الخادم الاختياري.

المعادلات الرياضية

IG_i(x) ≈ (x_i − x′_i)·(1/m)·Σ_{k=1..m} ∂F(x′ + (k/m)(x − x′))/∂x_i.

مثال عملي

بـ 32 خطوة يكون خطأ الاكتمال صغيراً عادة، ويعرضه المختبر عند تشغيل IG عبر الخادم.

خطوات التنفيذ

  1. فعّل الخادم الاختياري (للمدير).
  2. اختر IG في مختبر التفسير.
  3. قارنها بـ Grad-CAM.

النتائج المتوقعة

خريطة بدقة البكسل أكثر تفصيلاً وضوضاء من Grad-CAM.

الأخطاء الشائعة

تجاهل أثر اختيار الأساس.

التطبيقات العملية

التفسير الدقيق، تحليل السمات.

المراجع

  1. M. Sundararajan, A. Taly, Q. Yan (2017).Axiomatic Attribution for Deep Networks. arXiv:1703.01365 (ICML 2017). doi:10.48550/arXiv.1703.01365

خوارزميات مرتبطة

جرّب في التفسير البصري وخرائط الانتباه