Logistic regression

نوع من نموذج الانحدار (regression model) يتنبأ باحتمالية. تتميز نماذج الانحدار اللوجستي بالخصائص التالية:
• التسمية فئوية (categorical). يشير مصطلح الانحدار اللوجستي عادةً إلى الانحدار اللوجستي الثنائي (binary logistic regression)، أي إلى نموذج يحسب الاحتمالات للتسميات ذات القيمتين المحتملتين. المتغير الأقل شيوعًا، الانحدار اللوجستي متعدد الحدود (multinomial logistic regression)، يحسب الاحتمالات للتسميات التي تحتوي على أكثر من قيمتين محتملتين.
• دالة الخطأ أثناء التدريب هي الخطأ اللوجيستي (Log Loss). (يمكن وضع وحدات الخطأ اللوجيستي المتعددة بالتوازي للتسميات التي تحتوي على أكثر من قيمتين محتملتين.)
• النموذج له بُنية خطية، وليس شبكة عصبية عميقة. ومع ذلك، فإن ما تبقى من هذا التعريف ينطبق أيضًا على النماذج العميقة (deep models) التي تتنبأ باحتمالات التسميات الفئوية.
على سبيل المثال، ضع في اعتبارك نموذج الانحدار اللوجستي الذي يحسب احتمالية أن يكون البريد الإلكتروني المدخل بريدًا عشوائيًا أو ليس بريدًا عشوائيًا. أثناء الاستدلال، افترض أن النموذج يتوقع 0.72. لذلك، فإن النموذج يقدر:
• احتمال 72٪ أن يكون البريد الإلكتروني بريدًا عشوائيًا.
• فرصة بنسبة 28٪ ألا يكون البريد الإلكتروني بريدًا عشوائيًا.
يستخدم نموذج الانحدار اللوجستي البُنية التالية المكونة من خطوتين:
1. يولد النموذج تنبؤًا أوليًا (y’) من خلال تطبيق دالة خطية لميزات الإدخال.
2. يستخدم النموذج هذا التنبؤ الأولي كمدخل لدالة سيكمويد (sigmoid function)، والتي تحول التنبؤ الأولي إلى قيمة بين 0 و 1، حصريًا.
مثل أي نموذج انحدار، يتنبأ نموذج الانحدار اللوجستي بعدد. ومع ذلك، يصبح هذا الرقم عادةً جزءًا من نموذج التصنيف الثنائي على النحو التالي:
• إذا كان الرقم المتوقع أكبر من عتبة التصنيف (classification threshold)، فإن نموذج التصنيف الثنائي يتنبأ بالفئة الإيجابية.
• إذا كان الرقم المتوقع أقل من عتبة التصنيف، فإن نموذج التصنيف الثنائي يتنبأ بالفئة السلبية.