الانحدار التدريجي (Gradient Descent) هو خوارزمية تحسين تُستخدم في تدريب الشبكات العصبية لتقليل الخطأ (Error) أو دالة الخطأ (Loss Function)، حيث تبدأ العملية بالحساب الأمامي (Forward Pass) لإنتاج المخرجات وحساب الخطأ، ثم يُستخدم الانتشار الخلفي (Backpropagation) لاشتقاق المشتقات الجزئية (Gradients) للأوزان (Weights)، وبعدها تُحدّث الأوزان بالمعادلة حيث هو معدل التعلّم (Learning Rate)، وتتكرر هذه العملية عبر عدة فترات (Epochs) إلى أن تصل الشبكة إلى حالة تقارب (Convergence) تقل فيها الأخطاء إلى الحد الأدنى الممكن.
