شجرة القرار
Decision Tree
التعريف
نموذج يقسّم البيانات بأسئلة متتالية من نوع «هل الخاصية أقل من قيمة؟» حتى يصل إلى أوراق تحمل التنبؤ.
الفكرة الأساسية
في كل عقدة نختار السؤال الذي يجعل المجموعتين الناتجتين أنقى ما يمكن (أقل Gini أو Entropy للتصنيف، أقل تباين للانحدار).
آلية العمل
- نبدأ بكل البيانات في الجذر
- نجرب كل خاصية وكل عتبة ونقيس النقاء
- نختار أفضل تقسيم ونكرر على كل فرع
- نتوقف عند عمق أقصى أو حد أدنى لعدد الأمثلة
- الورقة تتنبأ بالفئة الأكثر أو بالمتوسط
نوع البيانات ونوع المشكلة
| نوع البيانات | جدولية رقمية وفئوية، ولا تحتاج تطبيعاً |
|---|---|
| نوع المشكلة | تصنيف وانحدار |
المزايا
- سهلة التفسير ويمكن رسمها
- لا تحتاج تطبيعاً
- تلتقط علاقات غير خطية وتفاعلات
القيود
- تميل للإفراط في التخصيص Overfitting إذا تُركت عميقة
- غير مستقرة: تغيير بسيط في البيانات قد يغير الشجرة
المعاملات المهمة
- العمق الأقصى max depth
- أقل عدد أمثلة في الورقة
- معيار التقسيم Gini/Entropy
- التقليم Pruning
مقاييس التقييم
- Accuracy الدقة
- Precision وRecall
- F1-score
- Confusion Matrix مصفوفة الالتباس
- ROC AUC للتصنيف الثنائي
- للانحدار: MAE وRMSE
الأدوات التي تدعمها
| Orange | Tree |
|---|---|
| KNIME | Decision Tree Learner + Decision Tree Predictor |
| WEKA | trees.J48 (تطبيق C4.5) |
أمثلة تطبيقية
- قواعد قبول طلب قرض
- تصنيف أزهار Iris
- تشخيص أعطال الآلات
