الدرس 2 من 2 · النمذجة الاحتمالية

الشبكات البايزية والنماذج الرسومية Bayesian Networks and Graphical Models

الشبكة البايزية رسم موجه غير دوري يحلل التوزيع المشترك إلى جداء احتمالات شرطية لكل متغير بمعلومية آبائه، فيقل عدد المعاملات كثيراً؛ ومنها نحسب الاحتمالات الهامشية والشرطية بالجمع على المتغيرات غير المرصودة.

رياضيات التعلم العميق الصعوبة: متقدم زمن الدراسة: 50 دقيقة
محتويات الدرس
  1. مقدمة
  2. لماذا ندرس هذا الموضوع؟
  3. الشرح النظري
  4. التعريفات الرياضية
  5. المعادلات
  6. مثال محلول
  7. التطبيق في الذكاء الاصطناعي
  8. المختبر التفاعلي
  9. تمارين تدريبية
  10. الملخص
  11. اختبار قصير
  12. دروس مرتبطة

1 مقدمة

لوصف التوزيع المشترك لعشرة متغيرات ثنائية نحتاج \(2^{10} - 1 = 1023\) احتمالاً. لكن إذا كان كل متغير يعتمد مباشرة على متغير أو اثنين فقط، فيمكن وصف التوزيع بعدد أقل بكثير. هذا ما تفعله النماذج الرسومية: تجعل الاستقلال الشرطي بنية صريحة.

الأهداف التعليمية

  • قراءة شبكة بايزية وكتابة تحليل التوزيع المشترك
  • حساب عدد المعاملات مقارنة بالتوزيع الكامل
  • حساب احتمالات هامشية وشرطية بالجمع
  • التعرف على Naive Bayes ونماذج ماركوف المخفية كشبكات بايزية

2 لماذا ندرس هذا الموضوع؟

النماذج الرسومية أساس فهم كثير من نماذج التعلم الآلي: Naive Bayes شبكة بايزية بسيطة، ونماذج ماركوف المخفية شبكة متسلسلة، والنماذج التوليدية العميقة تُرسم بمخططات متغيرات كامنة. والرسوم الموجهة نفسها هي لغة الاستدلال السببي.

3 الشرح النظري

التحليل

في رسم موجه غير دوري (DAG) يحلل التوزيع المشترك هكذا:

\[p(x_1, \dots, x_n) = \prod_{i=1}^n p(x_i \mid \mathrm{pa}(x_i))\]

حيث \(\mathrm{pa}(x_i)\) آباء العقدة. كل متغير مستقل شرطياً عن غير أحفاده بمعلومية آبائه.

مثال: المطر والمرش والعشب المبلل

المطر R يؤثر في تشغيل المرش S، وكلاهما يؤثر في بلل العشب W:

\[p(R, S, W) = p(R)\,p(S \mid R)\,p(W \mid S, R)\]

الجدولالقيم
\(p(R = 1)\)0.2
\(p(S = 1 \mid R)\)R = 1: 0.01، R = 0: 0.4
\(p(W = 1 \mid S, R)\)(0,0): 0، (1,0): 0.9، (0,1): 0.8، (1,1): 0.99

عدد المعاملات المستقلة \(1 + 2 + 4 = 7\)، وهو هنا مساوٍ للتوزيع الكامل \(2^3 - 1 = 7\) لأن الرسم مكتمل؛ لكن في سلسلة من 10 متغيرات ثنائية يكفي \(1 + 9 \times 2 = 19\) معاملاً مقابل 1023.

الاستدلال بالجمع

لحساب احتمال هامشي نجمع التوزيع المشترك على المتغيرات الأخرى:

\[p(W = 1) = \sum_{r, s} p(r)\,p(s \mid r)\,p(W = 1 \mid s, r) \approx 0.4484\]

ولحساب احتمال المطر بعد رؤية العشب مبللاً:

\[p(R = 1 \mid W = 1) = \frac{\sum_s p(R = 1, s, W = 1)}{p(W = 1)} \approx 0.3577\]

رؤية العشب مبللاً رفعت احتمال المطر من 0.2 إلى نحو 0.36.

نماذج مألوفة كشبكات بايزية

  • Naive Bayes: الفئة أب لكل الميزات، والميزات مستقلة شرطياً بمعلوميتها.
  • نموذج ماركوف المخفي HMM: سلسلة حالات مخفية كل منها تولد ملاحظة.
  • النماذج التوليدية: متغير كامن z يولد x، كما في VAE.

4 التعريفات الرياضية

الشبكة البايزية
رسم موجه غير دوري مع احتمال شرطي لكل عقدة بمعلومية آبائها.
\[p(x)=\prod_i p(x_i|\mathrm{pa}(x_i))\]
الاستقلال الشرطي
استقلال متغيرين بعد معرفة متغير ثالث.
\[X\perp Y\mid Z\]
التهميش
الحصول على توزيع متغيرات بجمع التوزيع المشترك على الباقي.
\[p(x)=\sum_y p(x,y)\]
النموذج الرسومي
تمثيل توزيع احتمالي برسم بياني يعبر عن بنية الاعتماد بين المتغيرات.
الشبكة البايزية (Bayesian Network)
رسم موجه غير دوري يحلل التوزيع المشترك إلى احتمالات شرطية لكل عقدة بمعلومية آبائها.
\[p(x)=\prod_i p(x_i|\mathrm{pa}(x_i))\]
الاستقلال الشرطي (Conditional Independence)
استقلال متغيرين بعد معرفة ثالث، وهو ما يقلل عدد معاملات النموذج.
\[p(x,y|z)=p(x|z)p(y|z)\]
التهميش (Marginalization)
الحصول على توزيع جزء من المتغيرات بجمع التوزيع المشترك على الباقي.
\[p(x)=\sum_y p(x,y)\]

5 المعادلات

\[p(x_1,\dots,x_n) = \prod_i p(x_i \mid \mathrm{pa}(x_i))\]
تحليل الشبكة البايزية
\[p(y \mid x_1,\dots,x_d) \propto p(y)\prod_j p(x_j \mid y)\]
Naive Bayes كشبكة
\[p(a \mid e) = \frac{\sum_h p(a, h, e)}{\sum_{a,h} p(a, h, e)}\]
الاستدلال بالجمع

6 مثال محلول خطوة بخطوة

احتمال هامشي

المسألة: احسب \(p(S = 1)\) في شبكة المطر والمرش.

  1. \(p(S = 1) = p(R=1)p(S=1|R=1) + p(R=0)p(S=1|R=0)\).
  2. \(= 0.2(0.01) + 0.8(0.4)\).

النتيجة: \(0.322\)

استدلال عكسي

المسألة: رأينا العشب مبللاً. ما احتمال أنها أمطرت؟

  1. \(p(W = 1) \approx 0.4484\) بالجمع على R و S.
  2. البسط \(\sum_s p(R = 1, s, W = 1)\).

النتيجة: \(p(R = 1 \mid W = 1) \approx 0.3577\)

عدد المعاملات

المسألة: سلسلة \(X_1 \to X_2 \to \dots \to X_{10}\) لمتغيرات ثنائية. كم معاملاً نحتاج؟

  1. \(p(X_1)\): معامل واحد.
  2. كل \(p(X_i \mid X_{i-1})\): معاملان.

النتيجة: \(19\) مقابل \(1023\) للتوزيع الكامل

7 تطبيق عملي في الذكاء الاصطناعي

  • Naive Bayes: مصنف نصوص بسيط وسريع يفترض استقلال الكلمات شرطياً بمعلومية الفئة.
  • التشخيص الطبي: شبكات بايزية تربط الأمراض بالأعراض وتحسب احتمال المرض بعد رصد الأعراض.
  • النماذج التسلسلية: نماذج ماركوف المخفية استخدمت طويلاً في التعرف على الكلام ووسم أجزاء الكلام.

8 مختبر تفاعلي مرتبط بالدرس

حاسبة الاحتمالات، والتوزيع الطبيعي والتوزيع ذو الحدين مع الرسم، والإحصاءات الوصفية (المتوسط والوسيط والمنوال والتباين والانحراف المعياري)، والارتباط، والمعاينة العشوائية، وحاسبة مبرهنة بايز.

افتح مختبر الاحتمالات والإحصاء

9 تمارين تدريبية

أسئلة مراجعة للتفكير

  • لماذا يقل عدد المعاملات في السلسلة مقارنة بالتوزيع الكامل؟
  • كيف تغيرت قيمة p(R) بعد رصد W؟ ولماذا؟

أخطاء شائعة

  • تفسير السهم في الشبكة البايزية على أنه سببية دائماً؛ قد يعبر عن اعتماد إحصائي فقط.
  • نسيان التطبيع عند حساب الاحتمال الشرطي.
  • افتراض أن الاستقلال يعني الاستقلال الشرطي أو العكس.
  • رسم دورة في شبكة بايزية؛ يجب أن يكون الرسم غير دوري.

تدرب على 9 أسئلة من بنك الأسئلة لهذا الدرس

10 ملخص الدرس

  • الشبكة البايزية تحلل التوزيع المشترك إلى احتمالات شرطية محلية.
  • الاستقلال الشرطي يقلل عدد المعاملات أسياً.
  • الاستدلال يتم بالجمع والتطبيع.
  • Naive Bayes وHMM حالتان خاصتان.

11 اختبار قصير

5 أسئلة · 10 دقائق · النجاح من 60% — اجتيازه يُكمل الدرس.