تصنيف النصوص

أنواع المسائل

النوع	المخرج	التنشيط/الخسارة
ثنائي	فئة من اثنتين	Sigmoid + BCE
متعدد الفئات	فئة واحدة من K	Softmax + Cross-Entropy
متعدد التسميات	مجموعة فئات	Sigmoid لكل فئة + BCE

خط العمل

1. تعريف الفئات بدقة وكتابة دليل تسمية.
2. جمع البيانات وتسميتها وقياس اتفاق المسمّين.
3. تقسيم البيانات (مع إزالة المكررات).
4. خط أساس: TF-IDF + LinearSVC أو انحدار لوجستي.
5. نموذج مدرب مسبقاً بالضبط الدقيق.
6. تقييم ومقارنة وتحليل أخطاء.

خط الأساس

from sklearn.datasets import fetch_20newsgroups
from sklearn.feature_extraction.text import TfidfVectorizer
from sklearn.svm import LinearSVC
from sklearn.pipeline import make_pipeline
from sklearn.metrics import classification_report

cats = ["sci.med", "sci.space", "rec.autos", "comp.graphics"]
train = fetch_20newsgroups(subset="train", categories=cats, remove=("headers", "footers", "quotes"))
test  = fetch_20newsgroups(subset="test",  categories=cats, remove=("headers", "footers", "quotes"))
clf = make_pipeline(TfidfVectorizer(ngram_range=(1, 2), min_df=2, sublinear_tf=True), LinearSVC())
clf.fit(train.data, train.target)
print(classification_report(test.target, clf.predict(test.data), target_names=test.target_names))

خيار remove يحذف الترويسات التي قد تكشف الفئة بشكل زائف، وهو مثال على تجنب الاختصارات.

التصنيف دون أمثلة

from transformers import pipeline
zsc = pipeline("zero-shot-classification", model="facebook/bart-large-mnli")
print(zsc("The new GPU doubles training speed.", candidate_labels=["technology", "sports", "health"]))

مفيد للنماذج الأولية حين لا تتوفر بيانات موسومة، لكنه أقل دقة عادة من نموذج مضبوط على بيانات المهمة. لهذا النموذج تحديداً تكون النصوص والفئات بالإنجليزية؛ للعربية اختر نموذجاً متعدد اللغات مناسباً.

اختيار النهج

الموقف	التوصية
بيانات قليلة، موارد محدودة	TF-IDF + نموذج خطي
بيانات متوسطة، دقة مهمة	ضبط نموذج مشفر (AraBERT وأمثاله)
لا بيانات موسومة	تصنيف دون أمثلة أو نموذج لغوي كبير، ثم جمع بيانات