الانتشار العكسي
Backpropagation
طريقة لحساب تدرج الخسارة بالنسبة لكل أوزان الشبكة العصبية بتطبيق قاعدة السلسلة من المخرجات نحو المدخلات.
الفكرة الأساسية
الخطأ عند المخرجات يُوزّع رجوعاً على الطبقات، فيعرف كل وزن مقدار مساهمته في الخطأ.
المعادلات
dL/dw_ij = delta_j * a_idelta_j = f'(z_j) * sum_k w_jk delta_kالمزايا
- حساب فعّال للتدرج بتكلفة قريبة من تمرير أمامي واحد
القيود
- تلاشي أو انفجار التدرج في الشبكات العميقة جداً
التطبيقات العملية
تدريب الشبكات متعددة الطبقات والالتفافية والمتكررة والمحولات.
عناصر مرتبطة
طوّره
- ديفيد روملهارت عالم · 1942المصدر: Learning representations by back-propagating errors
- جيفري هينتون عالم · 1947المصدر: Learning representations by back-propagating errors
يُستخدم في
- الشبكة متعددة الطبقات معمارية · 1986المصدر: Learning representations by back-propagating errors
قُدّم في
- تعلم التمثيلات بالانتشار العكسي للأخطاء ورقة بحثية · 1986المصدر: Learning representations by back-propagating errors
خريطة المعرفة لهذا العنصر
افتح بالحجم الكاملالمصادر والمراجع العلمية
- David E. Rumelhart; Geoffrey E. Hinton; Ronald J. Williams (1986). Learning representations by back-propagating errors. Nature, 323(6088):533-536. DOI: 10.1038/323533a0
يدعم: الورقة التي نشرت الطريقة وأظهرت تعلم تمثيلات داخلية
