كيف تُستخدم تقنية Learning Rate Decay؟

تقنيةLearning Rate Decay تُستخدم في تدريب النماذج عبر تقليل معدل التعلم تدريجيًا مع مرور الوقت أو عدد Epochs، بحيث يبدأ التدريب بخطوات كبيرة لتسريع الوصول إلى الحلول الجيدة، ثم تُصبح الخطوات أصغر لضبط الأوزان بدقة أكبر قرب النقطة المثلى.