- الانحدار الخطي
- التصميم الكينوني للتنفيذ
- بيانات الانحدار التركيبية
- تنفيذ الانحدار الخطي من الصفر
- التنفيذ المختصر للانحدار الخطي
- التعميم
- اضمحلال الوزن
قبل أن نقلق بشأن جعل شبكاتنا العصبية عميقة deep، سيكون من المفيد تنفيذ بعض الشبكات العصبية الضحلة shallow neural networks، والتي تتصل مدخلاتها مباشرة بالمخرجات. سيثبت هذا أهميته لعدة أسباب. أولاً، بدلاً من تشتيت الانتباه بسبب البنى المعقدة، يمكننا التركيز على أساسيات تدريب الشبكة العصبية، بما في ذلك تحديد معلمات طبقة الإخراج، ومعالجة البيانات، وتحديد دالة الخطأ، وتدريب النموذج. ثانيًا، تتكون هذه الفئة من الشبكات الضحلة لتشمل مجموعة من النماذج الخطية، والتي تشمل العديد من الطرق الكلاسيكية للتنبؤ الإحصائي، بما في ذلك الانحدار الخطي linear regression وانحدار Softmax. يعد فهم هذه الأدوات الكلاسيكية أمرًا محوريًا لأنها تُستخدم على نطاق واسع في العديد من السياقات وسنحتاج غالبًا إلى استخدامها كخطوط أساسية عند تبرير استخدام معماريات مختلفة. سيركز هذا الفصل بشكل ضيق على الانحدار الخطي وسيعمل الفصل التالي على توسيع مجموعة النمذجة لدينا من خلال تطوير شبكات عصبية خطية من أجل التصنيف classification.