خرائط التنشيط الحرارية (Saliency Maps) هي إحدى تقنيات الذكاء الاصطناعي القابل للتفسير (XAI)، تُستخدم لتوضيح الأجزاء الأكثر أهمية في المدخلات (مثل الصورة) التي أثرت على قرار النموذج العميق. تعتمد على حساب التدرجات (Gradients) بالنسبة للمدخلات، بحيث تبرز المناطق التي غيّرها النموذج بشكل أكبر عند اتخاذ التنبؤ.
مثال: عند تصنيف صورة تحتوي على قطة، تُظهر خريطة التنشيط الحرارية المناطق التي ركّزت عليها الشبكة العصبية، مثل ملامح الوجه أو الأذنين. تُستخدم هذه التقنية بكثرة في الرؤية الحاسوبية لفهم كيفية تفكير الشبكات العميقة مثل CNN، مما يعزز الشفافية ويساعد في كشف الأخطاء أو التحيزات.
ا.م.د. علاء طعيمة عبد الكاظم
أستاذ مساعد دكتور في الذكاء الاصطناعي والتعلم العميق