مختبر الرؤية الحاسوبية الخوارزميات التدرجات المتكاملة

التدرجات المتكاملة

Integrated Gradients

نسب الأهمية لكل بكسل بتكامل التدرجات على مسار من صورة أساس إلى الصورة.

خادم Python اختياريالتفسير البصري وخرائط الانتباهالتفسير

هذا المحتوى أُعدّ آلياً من مصادر موثقة ولم تكتمل مراجعته العلمية البشرية بعد. إن وجدت خطأً فأبلغنا.

الصيغة الرياضية

\mathrm{IG}_i(x) = (x_i - x_i^{\prime})\int_{0}^{1}\frac{\partial F\big(x^{\prime} + \alpha(x - x^{\prime})\big)}{\partial x_i}\,d\alpha

الشرح

يحقق مسلّمتي الحساسية وعدم التأثر بالتنفيذ، ومجموع النسب يساوي F(x) − F(x′) (الاكتمال)، ويُقرّب التكامل بمجموع ريمان. يحتاج إلى تدرجات كاملة عبر الشبكة، لذا يعمل في الخادم الاختياري (Captum).

التطبيقات

التفسير الكمي، مقارنة طرق التفسير.

القيود

النتيجة تعتمد على اختيار الصورة الأساس.

المراجع

  1. M. Sundararajan, A. Taly, Q. Yan (2017).Axiomatic Attribution for Deep Networks. arXiv:1703.01365 (ICML 2017). doi:10.48550/arXiv.1703.01365

دروس مرتبطة

جرّبها في التفسير البصري وخرائط الانتباه