Convex Optimization

الأمثلة المحدبة

التعريف

تحسين دوال محدبة، حيث أي حد أدنى محلي هو حد أدنى عام.

كثير من مسائل تعلم الآلة الكلاسيكية (الانحدار الخطي واللوجستي وSVM) محدبة فلها حلول مضمونة وتقارب موثوق. أما الشبكات العميقة فغير محدبة لكن تُحسَّن بالتدرج عملياً بنجاح.

Definition

Convex optimisation minimises convex functions over convex sets, where every local minimum is global, giving strong convergence guarantees.

شرح مبسّط للمبتدئين

كوعاء مقعّر: أي كرة تتدحرج تصل إلى القاع نفسه.

شرح أكاديمي متخصص

الدالة محدبة إن حققت \(f(\lambda x+(1-\lambda)y)\le\lambda f(x)+(1-\lambda)f(y)\).

أمثلة عملية

  • انحدار لوجستي بخسارة محدبة.

التطبيقات والاستخدامات

  • النماذج الخطية.

المزايا

  • ضمان الحل الأمثل.

القيود والعيوب

  • لا تغطي الشبكات العميقة.

تعلّم وراجع

مصطلحات مقترحة للتعلّم بعده