مختبر الرؤية الحاسوبية الخوارزميات التعلم المتبقي
التعلم المتبقي
Residual connections (ResNet)
إضافة اتصال مختصر يجمع مدخل الكتلة إلى مخرجها.
هذا المحتوى أُعدّ آلياً من مصادر موثقة ولم تكتمل مراجعته العلمية البشرية بعد. إن وجدت خطأً فأبلغنا.
الصيغة الرياضية
y = \mathcal{F}(x, \{W_i\}) + xالشرح
تتعلم الكتلة الفرق (المتبقي) بدل التحويل الكامل، فيسهل تدريب شبكات بعمق عشرات الطبقات أو أكثر لأن التدرج يمر عبر الاتصال المختصر.
التطبيقات
ResNet وأغلب المعماريات اللاحقة.
القيود
يزيد الذاكرة أثناء التدريب.
المراجع
- K. He, X. Zhang, S. Ren, J. Sun (2016).Deep Residual Learning for Image Recognition. CVPR 2016. doi:10.1109/CVPR.2016.90
