Loss Function
دالة الخسارة
التعريف
دالة تقيس مقدار الخطأ بين تنبؤ النموذج والقيمة الحقيقية، ويسعى التدريب إلى تصغيرها.
تحوّل دالة الخسارة جودة التنبؤ إلى رقم واحد يمكن تحسينه. تختلف باختلاف المهمة: متوسط مربعات الخطأ للانحدار، والإنتروبيا التقاطعية للتصنيف.
يجب أن تكون قابلة للاشتقاق غالباً ليُحسب تدرجها وتُحدَّث الأوزان. واختيارها يحدد سلوك النموذج وما يعدّه خطأً مهماً.
Definition
A loss function quantifies the discrepancy between a model's prediction and the true target; training aims to minimise its expected value over the data.
شرح مبسّط للمبتدئين
كعدّاد في لعبة رماية يخبرك كم أخطأت الهدف. كلما قلّ الرقم كنت أقرب للإصابة.
شرح أكاديمي متخصص
الخسارة تُعرَّف لكل مثال، والمخاطرة هي توقعها على التوزيع. للتصنيف تُشتق الإنتروبيا التقاطعية من تعظيم الإمكان الأعظم.
أمثلة عملية
- متوسط مربعات الخطأ في توقع الأسعار.
- الإنتروبيا التقاطعية في تصنيف الصور.
التطبيقات والاستخدامات
- تدريب كل نماذج التعلم الموجّه تقريباً.
- المفاضلة بين النماذج أثناء التطوير.
المزايا
- تجعل هدف التدريب قابلاً للقياس.
- تتيح التحسين بالتدرج.
القيود والعيوب
- الخسارة المنخفضة لا تعني بالضرورة أداءً جيداً على المقياس المهم عملياً.
- حساسية بعض الدوال للقيم الشاذة.
المعادلات الرياضية
متوسط مربعات الخطأ
\mathrm{MSE}=\frac{1}{n}\sum_{i=1}^{n}(y_i-\hat{y}_i)^2متوسط مربعات الفروق بين القيم الحقيقية والتنبؤات؛ يعاقب الأخطاء الكبيرة بشدة.
| الرمز | المعنى |
|---|---|
| \(n\) | عدد الأمثلة |
| \(y_i\) | القيمة الحقيقية |
| \(\hat{y}_i\) | التنبؤ |
مثال تطبيقي
إذا كانت الأخطاء \(1\) و\(2\) و\(3\) فإن MSE = \((1+4+9)/3 \approx 4.67\).
