Generalized linear model

تعميم لنماذج انحدار المربعات الصغرى (least squares regression)، والتي تعتمد على الضوضاء الغاوسية (Gaussian noise)، على أنواع أخرى من النماذج بناءً على أنواع أخرى من الضوضاء، مثل ضوضاء بواسون (Poisson noise) أو الضوضاء الفئوية. تتضمن أمثلة النماذج الخطية المعممة ما يلي:
• الانحدار اللوجستي (logistic regression).
• الانحدار متعدد الطبقات (multi-class regression).
• انحدار المربعات الأقل (least squares regression).
يمكن العثور على معلمات النموذج الخطي المعمم من خلال التحسين المحدب (convex optimization).
تعرض النماذج الخطية المعممة الخصائص التالية:
• متوسط التنبؤ لنموذج انحدار المربعات الصغرى الأمثل يساوي متوسط التسمية في بيانات التدريب.
• متوسط الاحتمال الذي تنبأ به نموذج الانحدار اللوجستي الأمثل يساوي متوسط التسمية في بيانات التدريب.
إن قوة النموذج الخطي المعمم محدودة بميزاته. على عكس النموذج العميق، لا يمكن للنموذج الخطي المعمم “تعلم ميزات جديدة”.