Regularization

أي آلية تقلل الضبط الزائد (overfitting). تشمل الأنواع الشائعة للتسوية ما يلي:
• تنظيم L1 (L1 regularization)
• تنظيم L2 (L2 regularization)
• تنظيم التسرب (dropout regularization)
• التوقف المبكر (early stopping) (هذه ليست طريقة تنظيم رسمية، ولكن يمكن أن تحد بشكل فعال من الضبط الزائد)
يمكن أيضًا تعريف التنظيم بأنه عقوبة على تعقيد النموذج.
التنظيم على غير المتوقع. عادةً ما تؤدي زيادة التنظيم إلى زيادة خطأ التدريب، وهو أمر محير لأنه، حسنًا، ليس الهدف هو تقليل خطأ التدريب؟
في الواقع لا. الهدف ليس تقليل خطأ التدريب. الهدف هو عمل تنبؤات ممتازة على أمثلة من العالم الحقيقي. من اللافت للنظر، على الرغم من أن زيادة التنظيم تؤدي إلى زيادة خطأ التدريب، إلا أنها تساعد النماذج عادةً على إجراء تنبؤات أفضل في الأمثلة الواقعية.