Autoregressive Model
النموذج ذاتي الانحدار
التعريف
نموذج يولّد كل عنصر بالاعتماد على العناصر السابقة، بتحليل الاحتمال المشترك بقاعدة السلسلة.
تعمل النماذج اللغوية من نوع GPT بهذه الطريقة: تتنبأ بالرمز التالي ثم تعيده مدخلاً. التوليد تتابعي فيكون بطيئاً، لكن التدريب متوازٍ مع إجبار المعلم.
Definition
An autoregressive model factorises a joint distribution by the chain rule and generates each element conditioned on previous ones.
شرح مبسّط للمبتدئين
كمن يكتب جملة كلمة بعد كلمة، كل كلمة تعتمد على ما سبقها.
شرح أكاديمي متخصص
تُستخدم أيضاً في الصور (PixelRNN) والصوت (WaveNet).
أمثلة عملية
- نموذج لغوي ينتج الجملة رمزاً رمزاً.
التطبيقات والاستخدامات
- التوليد النصي والصوتي.
المزايا
- احتمالات دقيقة قابلة للحساب.
القيود والعيوب
- توليد بطيء.
