Bayesian Optimization هو أسلوب متقدم لضبط المعلمات الفائقة (Hyperparameter Tuning) يعتمد على النمذجة الاحتمالية لتقدير دالة الهدف (Objective Function) التي نريد تحسينها. بدلاً من تجربة جميع التركيبات (Grid Search) أو الاختيار العشوائي (Random Search)، يقوم هذا الأسلوب بـ :
1. بناء نموذج احتمالي (مثل Gaussian Process) لتقدير أداء النموذج عند قيم مختلفة من المعلمات.
2. اختيار المعلمات التالية بذكاء استنادًا إلى دالة اكتساب(Acquisition Function) توازن بين الاستكشاف (تجربة قيم جديدة) والاستغلال (تحسين القيم الواعدة).
3. تحديث التقديرات في كل خطوة حتى الوصول إلى أفضل مجموعة من المعلمات.
يتميز بأنه أكثر كفاءة ودقة من الأساليب التقليدية، خاصة عند التعامل مع نماذج مكلفة حسابيًا مثل الشبكات العصبية العميقة.
