الدرس 7 من 10 · الاحتمالات والإحصاء
القيمة المتوقعة Expected Value
القيمة المتوقعة متوسط موزون بالاحتمالات، وخطيتها تجعلها أداة قوية؛ والخسارة التي ندربها هي تقدير تجريبي لقيمة متوقعة.
محتويات الدرس
1 مقدمة
القيمة المتوقعة (Expected Value) لمتغير عشوائي هي المتوسط طويل المدى لقيمه، حيث تُوزن كل قيمة باحتمالها.
الأهداف التعليمية
- حساب القيمة المتوقعة لمتغير متقطع ومتصل
- تطبيق خطية التوقع
- حساب توقع دالة في متغير
- فهم المخاطرة التجريبية تقديراً للمتوقعة
2 لماذا ندرس هذا الموضوع؟
هدف التعلم الآلي تقليل الخسارة المتوقعة \(\mathbb{E}_{(\mathbf{x},y)\sim p}[\ell(f(\mathbf{x}),y)]\) على توزيع البيانات الحقيقي. ولأننا لا نعرف هذا التوزيع نستبدله بمتوسط على عينة التدريب. وفي التعلم المعزز يسعى الوكيل إلى تعظيم العائد المتوقع.
3 الشرح النظري
التعريف
\[\mathbb{E}[X] = \sum_x x\,p(x)\quad\text{أو}\quad \mathbb{E}[X] = \int x\,p(x)\,dx\]
الخطية
\(\mathbb{E}[aX + bY + c] = a\mathbb{E}[X] + b\mathbb{E}[Y] + c\) دائماً، حتى لو لم يكن X وY مستقلين. أما \(\mathbb{E}[XY] = \mathbb{E}[X]\mathbb{E}[Y]\) فتحتاج إلى عدم الارتباط.
توقع دالة
\(\mathbb{E}[g(X)] = \sum_x g(x)p(x)\). وعموماً \(\mathbb{E}[g(X)] \neq g(\mathbb{E}[X])\)؛ ومتباينة ينسن (Jensen) تقول إن \(\mathbb{E}[g(X)] \ge g(\mathbb{E}[X])\) للدوال المحدبة.
التقدير التجريبي
بالعينات \(x_1,\dots,x_n\) نقدّر \(\mathbb{E}[X] \approx \frac1n\sum x_i\)، وهذا تقدير غير متحيز يتحسن مع زيادة n.
4 التعريفات الرياضية
- القيمة المتوقعة
- المتوسط الموزون بالاحتمالات لقيم المتغير.\[\mathbb{E}[X] = \sum_x x\,p(x)\]
- المخاطرة التجريبية
- متوسط الخسارة على عينة التدريب، وهي تقدير للخسارة المتوقعة.\[\hat R = \frac{1}{n}\sum_{i=1}^{n}\ell(f(\mathbf{x}_i), y_i)\]
- القيمة المتوقعة (Expected Value)
- المتوسط الموزون باحتمالات قيم المتغير العشوائي، وهو خطي دائماً.\[\mathbb{E}[X]=\sum_x x\,p(x)\]
5 المعادلات
6 مثال محلول خطوة بخطوة
توقع رمية نرد
المسألة: احسب القيمة المتوقعة لرمية نرد منتظم، ثم \(\mathbb{E}[2X + 1]\).
- \(\mathbb{E}[X] = (1+2+3+4+5+6)/6 = 21/6 = 3.5\).
- بالخطية: \(2\cdot3.5 + 1 = 8\).
النتيجة: \(\mathbb{E}[X] = 3.5\) و\(\mathbb{E}[2X+1] = 8\)
توقع خسارة
المسألة: نموذج يخطئ باحتمال 0.1 وخسارة الخطأ 5، ويصيب باحتمال 0.9 وخسارة الإصابة 0.2. ما الخسارة المتوقعة؟
- \(0.1\cdot5 + 0.9\cdot0.2 = 0.5 + 0.18\).
النتيجة: \(0.68\)
7 تطبيق عملي في الذكاء الاصطناعي
- دالة الخسارة: متوسط الخسارة على الدفعة تقدير لقيمة متوقعة، ومتوسط تدرجاتها تقدير غير متحيز للتدرج الحقيقي.
- التعلم المعزز: دالة القيمة \(V(s)\) هي العائد المتوقع ابتداءً من الحالة s.
- اتخاذ القرار: اختيار عتبة التصنيف بتقليل التكلفة المتوقعة للأخطاء.
8 مختبر تفاعلي مرتبط بالدرس
حاسبة الاحتمالات، والتوزيع الطبيعي والتوزيع ذو الحدين مع الرسم، والإحصاءات الوصفية (المتوسط والوسيط والمنوال والتباين والانحراف المعياري)، والارتباط، والمعاينة العشوائية، وحاسبة مبرهنة بايز.
افتح مختبر الاحتمالات والإحصاء9 تمارين تدريبية
أسئلة مراجعة للتفكير
- لماذا يكون متوسط تدرجات دفعة عشوائية تقديراً غير متحيز للتدرج الكامل؟
- أعط مثالاً يكون فيه \(\mathbb{E}[X^2] \neq (\mathbb{E}[X])^2\).
أخطاء شائعة
- افتراض \(\mathbb{E}[g(X)] = g(\mathbb{E}[X])\) للدوال غير الخطية.
- نسيان الوزن بالاحتمالات وأخذ المتوسط البسيط للقيم.
- افتراض \(\mathbb{E}[XY] = \mathbb{E}[X]\mathbb{E}[Y]\) دون استقلال أو عدم ارتباط.
10 ملخص الدرس
- التوقع متوسط موزون بالاحتمالات.
- التوقع خطي دائماً.
- التدريب يقلل تقديراً تجريبياً للخسارة المتوقعة.
11 اختبار قصير
5 أسئلة · 10 دقائق · النجاح من 60% — اجتيازه يُكمل الدرس.
