يُستخدم قص التدرجات Gradient Clipping لمنع انفجار التدرجات عبر تحديد حد أقصى (Threshold) لقيمة التدرج أثناء التدريب. عند حساب التدرجات في مرحلة الانتشار الخلفي، إذا تجاوزت قيمتها هذا الحد، يتم إعادة ضبطها بنسبة تُحافظ على اتجاهها لكنها تقلل من مقدارها. غالبًا ما يُطبّق القص باستخدام معيار L2، حيث تُقلّص جميع التدرجات إذا تجاوزت القيمة الكلية حدًا معينًا. هذه الطريقة تُحافظ على استقرار النموذج وتمنع التحديثات العنيفة للأوزان، خاصة في الشبكات العميقة أو الشبكات المتكررة (RNNs).
ا.م.د. علاء طعيمة عبد الكاظم
أستاذ مساعد دكتور في الذكاء الاصطناعي والتعلم العميق