الانحدار التدرجي
Gradient Descent
طريقة تحسين تكرارية تتحرك فيها المعاملات عكس اتجاه التدرج لتقليل دالة الخسارة، وهي أساس تدريب الشبكات العصبية.
آلية العمل
في النسخة العشوائية (SGD) يُحسب التدرج على دفعة صغيرة من البيانات بدلاً من كامل البيانات.
المعادلات
theta_{t+1} = theta_t - eta * grad L(theta_t)المزايا
- بسيط وقابل للتوسع
- يعمل مع ملايين المعاملات
القيود
- حساس لمعدل التعلم
- قد يعلق في نقاط سرجية أو قيعان محلية
التطبيقات العملية
تدريب كل الشبكات العصبية الحديثة تقريباً.
المصادر والمراجع العلمية
لم يُربط بهذا السجل مرجع بعد؛ لذلك يظهر بحالة «يحتاج مراجعة».
