الانحدار الخطي
Linear Regression
التعريف
نموذج يتنبأ بقيمة رقمية متصلة كمجموع موزون للخصائص: ŷ = w₀ + w₁x₁ + … + wₙxₙ.
الفكرة الأساسية
نبحث عن الخط (أو المستوى) الذي يجعل مجموع مربعات الفروق بين القيم الحقيقية والمتوقعة أصغر ما يمكن (المربعات الصغرى Least Squares).
آلية العمل
- نختار الخصائص الرقمية ونرمّز الفئوية
- نحسب الأوزان التي تقلل مجموع مربعات الأخطاء
- كل وزن يعني مقدار تغير الهدف عند زيادة الخاصية وحدة واحدة مع تثبيت البقية
- نقيّم على بيانات اختبار بمقاييس الانحدار
نوع البيانات ونوع المشكلة
| نوع البيانات | جدولية رقمية (الفئوية بعد الترميز) |
|---|---|
| نوع المشكلة | انحدار Regression |
المزايا
- سريع وبسيط وقابل للتفسير
- نقطة مرجعية Baseline ممتازة
- لا يحتاج بيانات كثيرة
القيود
- يفترض علاقة خطية
- حساس للقيم الشاذة
- يتأثر بالارتباط العالي بين الخصائص Multicollinearity
المعاملات المهمة
- التنظيم Regularization: Ridge (L2) أو Lasso (L1) وقوته
- إضافة حد ثابت Intercept
مقاييس التقييم
- MAE متوسط الخطأ المطلق
- RMSE جذر متوسط مربع الخطأ
- R² معامل التحديد
الأدوات التي تدعمها
| Orange | Linear Regression |
|---|---|
| KNIME | Linear Regression Learner + Regression Predictor |
| WEKA | functions.LinearRegression |
أمثلة تطبيقية
- تقدير درجة الطالب من ساعات الدراسة
- تقدير سعر منزل من مساحته وموقعه
- تقدير كتلة البطريق من قياساته
