الدرس 8 من 10 · الاحتمالات والإحصاء

التباين والانحراف المعياري Variance

التباين يقيس انتشار القيم حول متوسطها، والانحراف المعياري جذره بوحدات البيانات نفسها؛ ومنهما ينطلق تطبيع الخصائص وتحليل التحيز والتباين.

رياضيات التعلم الآلي الصعوبة: متوسط زمن الدراسة: 40 دقيقة
محتويات الدرس
  1. مقدمة
  2. لماذا ندرس هذا الموضوع؟
  3. الشرح النظري
  4. التعريفات الرياضية
  5. المعادلات
  6. مثال محلول
  7. التطبيق في الذكاء الاصطناعي
  8. المختبر التفاعلي
  9. تمارين تدريبية
  10. الملخص
  11. اختبار قصير
  12. دروس مرتبطة

1 مقدمة

متوسطان متساويان قد يخفيان بيانات مختلفة جداً. التباين (Variance) يقيس متوسط مربع البعد عن المتوسط، والانحراف المعياري (Standard Deviation) جذره التربيعي.

الأهداف التعليمية

  • حساب التباين والانحراف المعياري للمجتمع والعينة
  • استخدام الصيغة المختصرة \(\mathbb{E}[X^2] - \mathbb{E}[X]^2\)
  • معرفة أثر التحويلات الخطية على التباين
  • تطبيق التوحيد المعياري

2 لماذا ندرس هذا الموضوع؟

توحيد مقياس الخصائص (Standardization) يقسم على الانحراف المعياري، وطبقات التطبيع (Batch/Layer Normalization) تحسب المتوسط والتباين داخل الشبكة، وتحليل خطأ النموذج إلى تحيز وتباين يفسر الإفراط في التخصيص.

3 الشرح النظري

التعريف

\[\operatorname{Var}(X) = \mathbb{E}\big[(X-\mu)^2\big] = \mathbb{E}[X^2] - \mu^2,\quad \sigma = \sqrt{\operatorname{Var}(X)}\]

تباين العينة

لعينة من n قيمة نقسم على \(n-1\) بدلاً من n (تصحيح بيسل) للحصول على تقدير غير متحيز لتباين المجتمع: \(s^2 = \frac{1}{n-1}\sum (x_i - \bar x)^2\).

خصائص

  • \(\operatorname{Var}(aX + b) = a^2\operatorname{Var}(X)\): الإزاحة لا تؤثر، والتكبير يضرب التباين في مربع المعامل.
  • للمتغيرات المستقلة: \(\operatorname{Var}(X+Y) = \operatorname{Var}(X) + \operatorname{Var}(Y)\).
  • تباين متوسط n متغير مستقل متماثل \(\sigma^2/n\)، ولذلك تقل ضوضاء التدرج مع كبر الدفعة.

التوحيد المعياري

\(x' = (x - \mu)/\sigma\) يجعل المتوسط 0 والانحراف المعياري 1، فتتساوى مقاييس الخصائص ويتحسن تقارب الانحدار التدرجي.

4 التعريفات الرياضية

التباين
القيمة المتوقعة لمربع انحراف المتغير عن متوسطه.
\[\operatorname{Var}(X) = \mathbb{E}[(X-\mu)^2]\]
الانحراف المعياري
الجذر التربيعي للتباين، وله وحدة البيانات نفسها.
\[\sigma = \sqrt{\operatorname{Var}(X)}\]
تباين العينة
تقدير غير متحيز لتباين المجتمع بالقسمة على n−1.
\[s^2 = \frac{1}{n-1}\sum_i (x_i-\bar x)^2\]
التباين (Variance)
القيمة المتوقعة لمربع انحراف المتغير عن متوسطه، ويقيس الانتشار.
\[\operatorname{Var}(X)=\mathbb{E}[(X-\mu)^2]\]
الانحراف المعياري (Standard Deviation)
الجذر التربيعي للتباين، ويقيس الانتشار بوحدات البيانات نفسها.
\[\sigma=\sqrt{\operatorname{Var}(X)}\]

5 المعادلات

\[\operatorname{Var}(X) = \mathbb{E}[X^2] - (\mathbb{E}[X])^2\]
الصيغة المختصرة
\[\operatorname{Var}(aX+b) = a^2\operatorname{Var}(X)\]
أثر التحويل الخطي
\[\hat{x} = \frac{x-\mu_B}{\sqrt{\sigma_B^2+\epsilon}}\]
التطبيع بالدفعات

6 مثال محلول خطوة بخطوة

تباين مجموعة بيانات

المسألة: احسب المتوسط والتباين (للمجتمع) والانحراف المعياري للقيم: 2، 4، 4، 4، 5، 5، 7، 9.

  1. المتوسط: \(40/8 = 5\).
  2. مربعات الانحرافات: 9، 1، 1، 1، 0، 0، 4، 16 ومجموعها 32.
  3. تباين المجتمع: \(32/8 = 4\)، والانحراف المعياري 2.
  4. تباين العينة (بالقسمة على 7): \(32/7 \approx 4.5714\).

النتيجة: \(\mu = 5\)، \(\sigma^2 = 4\)، \(\sigma = 2\)

7 تطبيق عملي في الذكاء الاصطناعي

  • توحيد الخصائص: تحويل الخصائص إلى متوسط صفري وتباين واحدي قبل التدريب.
  • التطبيع داخل الشبكة: Batch Normalization يطبّع مخرجات الطبقة بمتوسط الدفعة وتباينها.
  • حجم الدفعة: تباين تقدير التدرج يتناسب عكسياً مع حجم الدفعة.

8 مختبر تفاعلي مرتبط بالدرس

حاسبة الاحتمالات، والتوزيع الطبيعي والتوزيع ذو الحدين مع الرسم، والإحصاءات الوصفية (المتوسط والوسيط والمنوال والتباين والانحراف المعياري)، والارتباط، والمعاينة العشوائية، وحاسبة مبرهنة بايز.

افتح مختبر الاحتمالات والإحصاء

9 تمارين تدريبية

أسئلة مراجعة للتفكير

  • لماذا نقسم على n−1 في تباين العينة؟
  • كيف يتغير تباين متوسط التدرج إذا ضاعفنا حجم الدفعة أربع مرات؟

أخطاء شائعة

  • نسيان تربيع المعامل في \(\operatorname{Var}(aX)\).
  • الخلط بين القسمة على n وn−1.
  • جمع تبايني متغيرين مرتبطين دون حد التغاير.

تدرب على 6 أسئلة من بنك الأسئلة لهذا الدرس

10 ملخص الدرس

  • التباين متوسط مربع البعد عن المتوسط.
  • \(\operatorname{Var}(aX+b) = a^2\operatorname{Var}(X)\).
  • التوحيد المعياري يقسم على الانحراف المعياري.

11 اختبار قصير

5 أسئلة · 10 دقائق · النجاح من 60% — اجتيازه يُكمل الدرس.