Exploration-Exploitation Tradeoff

المفاضلة بين الاستكشاف والاستغلال

التعريف

تحدٍّ في اتخاذ القرار: تجربة خيارات جديدة لاكتساب معرفة، أم اختيار الأفضل المعروف لتعظيم المكسب الآن.

الإفراط في الاستغلال يفوّت خيارات أفضل، والإفراط في الاستكشاف يضيع المكسب. تعالجه استراتيجيات مثل ε-greedy وUCB وأخذ عينات طومسون في مسائل قطاع الطرق متعددة الأذرع.

Definition

The exploration-exploitation tradeoff balances trying new options to gain information against choosing the best-known option to maximise immediate reward.

شرح مبسّط للمبتدئين

كاختيار مطعمك: تذهب إلى المفضل أم تجرب مطعماً جديداً قد يكون أفضل؟

شرح أكاديمي متخصص

يقاس الأداء بالندم التراكمي؛ وUCB يضمن ندماً لوغاريتمياً.

أمثلة عملية

  • ε-greedy باحتمال 10% لاختيار عشوائي.

التطبيقات والاستخدامات

  • التوصية والإعلانات.

المزايا

  • إطار واضح لموازنة المعرفة والمكسب.

القيود والعيوب

  • لا حل مثالي لكل البيئات.

تعلّم وراجع

مصطلحات مقترحة للتعلّم بعده