كتب الذكاء الاصطناعيمشاريع الذكاء الاصطناعيمقالات الذكاء الاصطناعيمعجم الذكاء الاصطناعياسئلة واجوبة في الذكاء الاصطناعيأكاديمية الذكاء الاصطناعي للأطفالأكاديمية الذكاء الاصطناعيمدرسة رياضيات الذكاء الاصطناعيمختبر الذكاء الاصطناعيمختبر الخوارزميات المستوحاة من الطبيعةأطلس نماذج الذكاء الاصطناعيموسوعة تطبيقات الذكاء الاصطناعيمستكشف مجموعات البيانات للذكاء الاصطناعياختبارات الذكاء الاصطناعيالفايب كودينغدليل البرمجة بالذكاء الاصطناعيمولّد مشاريع الذكاء الاصطناعيمرصد الذكاء الاصطناعيدليل أدوات الذكاء الاصطناعي البحث والنشر الأكاديميمكتبة البرومبتات الأكاديميةمستودع الرسائل والأطاريح في الذكاء الاصطناعيحاسبة الترقية العلميةأكاديمية الوكلاء الذكيينمختبر أخلاقيات الذكاء الاصطناعي والعدالةساحة ألعاب الذكاء الاصطناعيمختبر التنبؤ بالسلاسل الزمنيةمتحف الذكاء الاصطناعيمختبر الرؤية الحاسوبيةمختبر الشبكات العصبية البيانيةمختبر معالجة اللغة الطبيعيةمختبر الحوسبة الكمّيةخرائط طريق الذكاء الاصطناعيأكاديمية ماتلاب والذكاء الاصطناعيمصمم الشبكات العصبيةأكاديمية الذكاء الاصطناعي بدون برمجة

التعزيز التدرجي

Gradient Boosting

التعلم الموجّه Supervised Learning

التعريف

يبني أشجاراً صغيرة متتالية، كل شجرة جديدة تتعلم تصحيح أخطاء (بواقي) مجموع الأشجار السابقة.

الفكرة الأساسية

على عكس الغابة العشوائية التي تبني أشجاراً مستقلة بالتوازي، يبني التعزيز الأشجار بالتسلسل ويخطو بخطوة تعلم صغيرة في اتجاه تقليل الخسارة.

12345
أشجار صغيرة متتالية، كل واحدة تصحح بواقي ما قبلها فيتناقص الخطأ.

آلية العمل

  1. نبدأ بتنبؤ ثابت (متوسط أو لوغاريتم الأرجحية)
  2. نحسب البواقي أو تدرج الخسارة
  3. ندرّب شجرة صغيرة تتنبأ بهذه البواقي
  4. نضيفها مضروبة في معدل التعلم
  5. نكرر لعدد محدد من الأشجار

نوع البيانات ونوع المشكلة

نوع البياناتجدولية رقمية وفئوية
نوع المشكلةتصنيف وانحدار

المزايا

  • من أقوى الخوارزميات على البيانات الجدولية
  • يعطي أهمية الخصائص

القيود

  • يحتاج ضبطاً أدق للمعاملات
  • قد يفرط في التخصيص مع أشجار كثيرة ومعدل تعلم كبير
  • التدريب تسلسلي فهو أبطأ

المعاملات المهمة

  • عدد الأشجار
  • معدل التعلم learning rate
  • عمق الشجرة
  • نسبة العينة subsample

مقاييس التقييم

  • Accuracy الدقة
  • Precision وRecall
  • F1-score
  • Confusion Matrix مصفوفة الالتباس
  • ROC AUC للتصنيف الثنائي
  • للانحدار: MAE وRMSE وR²

الأدوات التي تدعمها

OrangeGradient Boosting
KNIMEGradient Boosted Trees Learner + Predictor
WEKAmeta.AdditiveRegression (للانحدار) و meta.LogitBoost (للتصنيف)

أمثلة تطبيقية

  • تقدير المخاطر الائتمانية
  • التنبؤ بالطلب
  • تصنيف العملاء

مشاريع مرتبطة

خوارزميات بديلة

جرّبها في المختبر