دور تقنيات تقطير النموذج Model Distillation في التعلم العميق هو جعل النماذج الكبيرة والمعقدة أكثر كفاءة وملائمة للتطبيقات العملية، وذلك عبر تدريب نموذج صغير (Student) ليستفيد من معرفة نموذج كبير ومدرَّب مسبقًا (Teacher). هذا يسمح بالحفاظ على أداء قريب من النموذج الأصلي مع تقليل حجم النموذج وتسريع التنفيذ، مما يجعله مناسبًا للعمل على الأجهزة محدودة الموارد مثل الهواتف والأنظمة المدمجة، وكذلك لتقليل استهلاك الذاكرة والطاقة. وبذلك تُعد هذه التقنيات جسرًا بين قوة النماذج الضخمة وكفاءة النماذج الخفيفة في الاستخدام اليومي.
