التحسين · Optimization
الانحدار التدرجي على دالة تربيعية
Gradient Descent on a Quadratic
أثر معدل التعلم على التقارب والتباعد.
f = @(w) (w - 4).^2 + 1;
g = @(w) 2 * (w - 4);
for lr = [0.1 0.5 0.9 1.1]
w = 0;
for k = 1:30, w = w - lr * g(w); end
fprintf('lr = %.1f -> w = %10.4f, f(w) = %.4g\n', lr, w, f(w));
endشرح الخطوات
- الحد الأدنى عند w = 4.
- التحديث w ← w − η·f'(w).
- لهذه الدالة يتباعد التدرج عندما η > 1 (لأن f'' = 2).
المخرجات المتوقعة
lr = 0.1 -> w = 3.9950, f(w) = 1 lr = 0.5 -> w = 4.0000, f(w) = 1 lr = 0.9 -> w = 3.9950, f(w) = 1 lr = 1.1 -> w = -945.5053, f(w) = 9.016e+05
شُغّل هذا الكود في GNU Octave 8.4 أثناء إعداد المكتبة والمخرجات المعروضة ناتجه الفعلي. لم يُختبر في MATLAB نفسه، لكنه يستخدم دوال MATLAB الأساسية فقط والطباعة بـ fprintf/disp.
