التجزئة في النماذج الحديثة
تستخدم النماذج الحديثة مفردات كلمات فرعية ثابتة تُتعلم مرة واحدة: BERT يستخدم WordPiece، وGPT-2 يستخدم BPE على مستوى البايت، وT5 وmT5 يستخدمان SentencePiece (Unigram). اختيار المجزئ يؤثر في طول التسلسل وفي تمثيل العربية.
Sennrich et al. (2016); Kudo (2018)
