مختبر الرؤية الحاسوبية الخوارزميات التدرجات المتكاملة
التدرجات المتكاملة
Integrated Gradients
نسب الأهمية لكل بكسل بتكامل التدرجات على مسار من صورة أساس إلى الصورة.
هذا المحتوى أُعدّ آلياً من مصادر موثقة ولم تكتمل مراجعته العلمية البشرية بعد. إن وجدت خطأً فأبلغنا.
الصيغة الرياضية
\mathrm{IG}_i(x) = (x_i - x_i^{\prime})\int_{0}^{1}\frac{\partial F\big(x^{\prime} + \alpha(x - x^{\prime})\big)}{\partial x_i}\,d\alphaالشرح
يحقق مسلّمتي الحساسية وعدم التأثر بالتنفيذ، ومجموع النسب يساوي F(x) − F(x′) (الاكتمال)، ويُقرّب التكامل بمجموع ريمان. يحتاج إلى تدرجات كاملة عبر الشبكة، لذا يعمل في الخادم الاختياري (Captum).
التطبيقات
التفسير الكمي، مقارنة طرق التفسير.
القيود
النتيجة تعتمد على اختيار الصورة الأساس.
المراجع
- M. Sundararajan, A. Taly, Q. Yan (2017).Axiomatic Attribution for Deep Networks. arXiv:1703.01365 (ICML 2017). doi:10.48550/arXiv.1703.01365
