Hyperparameter
المعامل الفائق
التعريف
إعداد يحدده المطوّر قبل التدريب ولا يتعلمه النموذج من البيانات، مثل معدل التعلم وعمق الشجرة.
تتميز المعاملات الفائقة عن معاملات النموذج (الأوزان) التي تُتعلَّم. تتحكم في سعة النموذج وسلوك التدريب وقوة التنظيم.
تُضبط بالبحث الشبكي أو العشوائي أو الأمثلية البايزية، ويجب تقييمها على مجموعة تحقق منفصلة لا على الاختبار.
Definition
A hyperparameter is a configuration value set before training, such as the learning rate or tree depth, that controls model capacity or the learning process and is not learned from data.
شرح مبسّط للمبتدئين
كإعدادات الفرن قبل الطهي: درجة الحرارة والزمن تحددها أنت، أما الطعام فيتغير أثناء الطهي.
شرح أكاديمي متخصص
يُعالج ضبطها كمسألة تحسين تقيَّم فيها كل تهيئة بالتحقق المتقاطع؛ والبحث العشوائي غالباً أكفأ من الشبكي (Bergstra وBengio 2012).
أمثلة عملية
- عدد الطبقات ومعدل التعلم ونسبة Dropout.
التطبيقات والاستخدامات
- ضبط النماذج قبل النشر.
المزايا
- مرونة في ضبط سلوك النموذج.
القيود والعيوب
- الضبط مكلف حسابياً.
- خطر التسرب إذا ضُبطت على بيانات الاختبار.
