التعزيز التدرجي
Gradient Boosting
يضيف أشجاراً صغيرة تباعاً، تتعلم كل منها بواقي سابقاتها. تُبنى الخصائص من القيم السابقة فقط (Lags، تأخير موسمي، متوسط متحرك للماضي، خصائص تقويم)، ويكون التنبؤ متعدد الخطوات تكرارياً (Recursive).
المبدأ
F_m(x) = F_{m−1}(x) + ν h_m(x) حيث h_m شجرة على البواقي (التدرج السالب لدالة الخسارة التربيعية).
متطلبات البيانات
مئات الصفوف.
المعاملات
- n_estimators
- عدد المراحل
- learning_rate
- ν
- max_depth
- عمق كل شجرة
المزايا
- دقة عالية عادة
- مرونة
العيوب
- يحتاج ضبط ν وعدد المراحل
- خطر فرط التكيف
الاستخدامات
- الطلب والمبيعات
مثال تطبيقي
قلل learning_rate وزد n_estimators ولاحظ التوازن بين الدقة والوقت.
