مختبر التحسين Optimization Lab

محاكاة الانحدار التدرجي والانحدار التدرجي العشوائي وMomentum وAdam على دوال محدبة وغير محدبة، مع التحكم في معدل التعلم ومشاهدة منحنى الخسارة والمسار والتقارب أو التباعد والحد الأدنى المحلي والعام.
طريقة الاستخدام
  • اختر دالة الخسارة ونقطة البداية.
  • غيّر معدل التعلم وعدد الخطوات وشاهد التقارب.
  • قارن GD وMomentum وAdam على الدالة نفسها.

يُجهّز المختبر…

دروس تستخدم هذا المختبر

دوال الهدف ومسائل التحسينObjective Functions دوال الخسارةLoss Functions الانحدار التدرجيGradient Descent الانحدار التدرجي العشوائي (SGD)Stochastic Gradient Descent معدل التعلم وجدولتهLearning Rate التحسين المحدبConvex Optimization محسّن AdamAdam Optimizer المخاطرة التجريبية والمخاطرة المتوقعةEmpirical Risk and Expected Risk التحيز والتباين والإفراط في التخصيصBias-Variance Tradeoff