ما هو Xavier Initialization؟

Xavier Initialization هي طريقة لتهيئة الأوزان في الشبكات العصبية اقترحها Xavier Glorot، وتهدف إلى الحفاظ على توازن التباين Variance بين طبقات الشبكة، بحيث لا تكون القيم صغيرة جدًا (تؤدي إلى تلاشي التدرج Vanishing Gradient) ولا كبيرة جدًا (تؤدي إلى انفجار التدرج Exploding Gradient). يتم ذلك من خلال توزيع الأوزان وفق معادلة تعتمد على عدد الوصلات الداخلة والخارجة من كل طبقة (fan-in وfan-out)، مما يساعد على تسريع التدريب وتحقيق استقرار أكبر للتدرجات.