المحوّل (Transformer) هو نموذج عميق في التعلم الآلي قُدّم عام 2017، ويُعد ثورة في معالجة اللغة الطبيعية (NLP) وغيرها من البيانات المتسلسلة، إذ يعتمد على آلية الانتباه الذاتي (Self-Attention) بدلًا من التكرار المستخدم فيRNN وLSTM.
فكرته الأساسية:
• يُعالج جميع عناصر التسلسل (مثل كلمات الجملة) بالتوازي بدلاً من معالجتها خطوة بخطوة.
• يستخدم آلية الانتباه (Attention Mechanism) لقياس مدى أهمية كل عنصر بالنسبة للآخر داخل السياق.
• يتكون من مكدسات (Stacks) من طبقات الانتباه والتغذية الأمامية (Feed-Forward).
ا.م.د. علاء طعيمة عبد الكاظم
أستاذ مساعد دكتور في الذكاء الاصطناعي والتعلم العميق