XGBoost

إكس جي بوست

الاختصار: XGB

التعريف

تطبيق محسّن وسريع للتعزيز التدريجي بالأشجار، مع تنظيم مدمج وتوازٍ وحساب فعال.

يضيف إلى التعزيز التدريجي عقوبات تنظيم على تعقيد الأشجار وتقريباً من الدرجة الثانية للخسارة وخوارزميات تقسيم فعالة. يتعامل مع القيم المفقودة تلقائياً، وكان خياراً مفضلاً في مسابقات البيانات الجدولية.

Definition

XGBoost is an optimised, regularised implementation of gradient-boosted decision trees using second-order gradients and efficient parallel tree construction.

شرح مبسّط للمبتدئين

نسخة مسرّعة ومتقنة من فكرة «أشجار صغيرة تصحح بعضها».

شرح أكاديمي متخصص

يعظّم هدفاً منظّماً \(\sum_i l(y_i,\hat y_i)+\sum_k\Omega(f_k)\) بتوسعة تايلور من الدرجة الثانية (Chen وGuestrin 2016).

أمثلة عملية

  • توقع التعثر عن سداد القروض.

التطبيقات والاستخدامات

  • النماذج الجدولية.

المزايا

  • دقة عالية وسرعة وتنظيم.

القيود والعيوب

  • كثرة المعاملات الفائقة.

تعلّم وراجع

مصطلحات مقترحة للتعلّم بعده