AdaDelta

آدادلتا

Adadelta هو امتداد أكثر قوة لـ Adagrad يقوم بتكييف معدلات التعلم (learning rates) بناءً على نافذة متحركة لتحديثات التدرج (gradient) ، بدلاً من تجميع جميع التدرجات السابقة. بهذه الطريقة، يستمر Adadelta في التعلم حتى بعد إجراء العديد من التحديثات.