الدرس 8 من 9 · الجبر الخطي

القيم الذاتية والمتجهات الذاتية Eigenvalues and Eigenvectors

المتجه الذاتي اتجاه لا يغيّره التحويل الخطي إلا بالتمديد أو الانكماش بمعامل هو القيمة الذاتية؛ وهما أساس تحليل المكونات الرئيسية وتحليل استقرار التدريب.

رياضيات التعلم الآلي الصعوبة: متقدم زمن الدراسة: 50 دقيقة
محتويات الدرس
  1. مقدمة
  2. لماذا ندرس هذا الموضوع؟
  3. الشرح النظري
  4. التعريفات الرياضية
  5. المعادلات
  6. مثال محلول
  7. التطبيق في الذكاء الاصطناعي
  8. المختبر التفاعلي
  9. تمارين تدريبية
  10. الملخص
  11. اختبار قصير
  12. دروس مرتبطة

1 مقدمة

معظم المتجهات يتغير اتجاهها عندما نضربها في مصفوفة. لكن بعض الاتجاهات الخاصة تبقى على خطها نفسه وتتمدد أو تنكمش فقط. هذه هي المتجهات الذاتية (Eigenvectors)، ومعامل التمدد هو القيمة الذاتية (Eigenvalue).

الأهداف التعليمية

  • كتابة معادلة القيم الذاتية وتفسيرها هندسياً
  • حساب القيم الذاتية لمصفوفة 2×2 من المعادلة المميزة
  • إيجاد المتجهات الذاتية
  • ربط القيم الذاتية بالأثر والمحدد وPCA

2 لماذا ندرس هذا الموضوع؟

تحليل المكونات الرئيسية (PCA) يأخذ المتجهات الذاتية لمصفوفة التغاير اتجاهاتٍ للتباين الأكبر. وتحدد القيم الذاتية لمصفوفة هِسّه (Hessian) شكل سطح الخسارة: هل النقطة حد أدنى أم نقطة سرج. وتؤثر القيم الذاتية لمصفوفات الأوزان المتكررة في الشبكات المتكررة (RNN) في انفجار التدرجات أو تلاشيها.

3 الشرح النظري

التعريف

المتجه غير الصفري \(\mathbf{v}\) متجه ذاتي للمصفوفة المربعة \(A\) بقيمة ذاتية \(\lambda\) إذا تحقق:

\[A\mathbf{v} = \lambda\mathbf{v}\]

المعادلة المميزة

بإعادة الكتابة \((A - \lambda I)\mathbf{v} = \mathbf{0}\)، ولأن \(\mathbf{v}\neq\mathbf{0}\) يجب أن تكون \(A-\lambda I\) منفردة:

\[\det(A - \lambda I) = 0\]

لمصفوفة 2×2 تصبح \(\lambda^2 - \operatorname{tr}(A)\,\lambda + \det A = 0\).

خصائص مفيدة

  • مجموع القيم الذاتية يساوي الأثر: \(\sum\lambda_i = \operatorname{tr}A\).
  • حاصل ضربها يساوي المحدد: \(\prod\lambda_i = \det A\).
  • المصفوفة المتماثلة الحقيقية قيمها الذاتية حقيقية ومتجهاتها الذاتية متعامدة (المبرهنة الطيفية).
  • المصفوفة الموجبة شبه التحديد (مثل مصفوفة التغاير) قيمها الذاتية غير سالبة.

التحليل الذاتي

إذا كانت \(A\) متماثلة أمكن كتابتها \(A = Q\Lambda Q^\top\) حيث أعمدة \(Q\) متجهات ذاتية متعامدة و\(\Lambda\) قطرية بالقيم الذاتية.

المتجهات الذاتية تبقى على خطها بعد التحويل، بخلاف e₁

4 التعريفات الرياضية

القيمة الذاتية والمتجه الذاتي
العدد λ والمتجه غير الصفري v اللذان يحققان أن ضرب المصفوفة في v يساوي λ مضروبة في v.
\[A\mathbf{v} = \lambda\mathbf{v},\; \mathbf{v}\neq\mathbf{0}\]
المعادلة المميزة
المعادلة التي جذورها القيم الذاتية.
\[\det(A-\lambda I) = 0\]
التحليل الطيفي
تحليل المصفوفة المتماثلة إلى متجهات ذاتية متعامدة وقيم ذاتية.
\[A = Q\Lambda Q^\top\]
القيمة الذاتية (Eigenvalue)
العدد λ الذي يحقق \(A\mathbf{v}=\lambda\mathbf{v}\) لمتجه غير صفري v، ويمثل معامل تمدد المصفوفة على امتداد ذلك المتجه.
\[A\mathbf{v}=\lambda\mathbf{v}\]
المتجه الذاتي (Eigenvector)
متجه غير صفري لا يتغير اتجاهه عند ضربه في المصفوفة، بل يتمدد أو ينكمش أو ينعكس فقط.
\[(A-\lambda I)\mathbf{v}=\mathbf{0}\]
التحليل الذاتي (Eigendecomposition)
كتابة مصفوفة مربعة قابلة للتقطير على الصورة \(Q\Lambda Q^{-1}\)، وتصبح \(Q\Lambda Q^\top\) للمصفوفات المتماثلة.
\[A=Q\Lambda Q^{-1}\]

5 المعادلات

\[A\mathbf{v} = \lambda\mathbf{v}\]
معادلة القيم الذاتية
\[\lambda^2 - \operatorname{tr}(A)\lambda + \det(A) = 0\]
المعادلة المميزة لمصفوفة 2×2
\[\operatorname{tr}A = \sum_i\lambda_i,\quad \det A = \prod_i \lambda_i\]
الأثر والمحدد

6 مثال محلول خطوة بخطوة

القيم والمتجهات الذاتية لمصفوفة متماثلة

المسألة: أوجد القيم والمتجهات الذاتية للمصفوفة \(A = \begin{bmatrix}2 & 1 \\ 1 & 2\end{bmatrix}\).

  1. الأثر 4 والمحدد \(4-1=3\)، فالمعادلة المميزة \(\lambda^2 - 4\lambda + 3 = 0\).
  2. الجذران: \(\lambda_1 = 3\) و\(\lambda_2 = 1\).
  3. لـ \(\lambda=3\): \((A-3I)\mathbf{v}=0\) يعطي \(-v_1+v_2=0\)، فالمتجه \((1,1)\).
  4. لـ \(\lambda=1\): \(v_1 + v_2 = 0\)، فالمتجه \((1,-1)\).
  5. التحقق: \(A(1,1)^\top = (3,3)^\top = 3(1,1)^\top\). والمتجهان متعامدان كما تتوقع المبرهنة الطيفية.

النتيجة: \(\lambda_1 = 3\) مع \((1,1)\)، و\(\lambda_2 = 1\) مع \((1,-1)\).

7 تطبيق عملي في الذكاء الاصطناعي

  • تحليل المكونات الرئيسية: المتجهات الذاتية لمصفوفة التغاير هي المكونات الرئيسية، والقيم الذاتية مقدار التباين في كل اتجاه.
  • تحليل سطح الخسارة: إذا كانت كل القيم الذاتية لمصفوفة هِسّه موجبة عند نقطة حرجة فهي حد أدنى محلي.
  • PageRank والرسوم البيانية: ترتيب الصفحات هو المتجه الذاتي المسيطر لمصفوفة الانتقال.

8 مختبر تفاعلي مرتبط بالدرس

عمليات المتجهات (الجمع والطرح والجداء النقطي والطول والمسافة وتشابه جيب التمام)، والعمليات المصفوفية (الجمع والضرب والمنقول والمحدد والمعكوس)، والقيم والمتجهات الذاتية، وتحليل القيم المنفردة SVD مع إعادة البناء بمرتبة أقل.

افتح مختبر الجبر الخطي

9 تمارين تدريبية

أسئلة مراجعة للتفكير

  • لماذا تكون القيم الذاتية لمصفوفة التغاير غير سالبة؟
  • ماذا تعني قيمة ذاتية سالبة لمصفوفة هِسّه عند نقطة حرجة؟

أخطاء شائعة

  • قبول المتجه الصفري متجهاً ذاتياً.
  • الاعتقاد بأن المتجه الذاتي وحيد؛ أي مضاعف غير صفري له متجه ذاتي أيضاً.
  • نسيان طرح \(\lambda\) من عناصر القطر فقط.

تدرب على 6 أسئلة من بنك الأسئلة لهذا الدرس

10 ملخص الدرس

  • \(A\mathbf{v} = \lambda\mathbf{v}\): اتجاه ثابت ومعامل تمدد.
  • القيم الذاتية جذور \(\det(A-\lambda I)=0\).
  • المصفوفات المتماثلة لها قيم ذاتية حقيقية ومتجهات متعامدة، وهذا أساس PCA.

11 اختبار قصير

5 أسئلة · 10 دقائق · النجاح من 60% — اجتيازه يُكمل الدرس.