تدريب النماذج

ما الذي نتعلمه؟

• المعاملات (Parameters): تُتعلم من البيانات، مثل الأوزان \(\mathbf{w}\).
• المعاملات الفائقة (Hyperparameters): نحددها نحن، مثل C وmax_depth وn_neighbors.

التحسين التكراري

كثير من النماذج تُدرَّب بالانحدار التدرجي:

$$\mathbf{w} \leftarrow \mathbf{w} – \eta \, \nabla_{\mathbf{w}} L(\mathbf{w})$$

حيث \(\eta\) معدل التعلم. ستتعمق في هذا في مسار التعلم العميق.

ابدأ بخط أساس

from sklearn.dummy import DummyClassifier
from sklearn.model_selection import cross_val_score
base = DummyClassifier(strategy="most_frequent")
print(cross_val_score(base, X, y, cv=5, scoring="balanced_accuracy").mean())

إذا لم يتفوق نموذجك بوضوح على هذا الرقم، فراجع البيانات قبل تعقيد النموذج.

ضبط المعاملات الفائقة

from scipy.stats import loguniform
from sklearn.model_selection import RandomizedSearchCV, StratifiedKFold
from sklearn.svm import SVC
from sklearn.pipeline import make_pipeline
from sklearn.preprocessing import StandardScaler

pipe = make_pipeline(StandardScaler(), SVC())
search = RandomizedSearchCV(
    pipe,
    {"svc__C": loguniform(1e-2, 1e3), "svc__gamma": loguniform(1e-4, 1e1)},
    n_iter=40, cv=StratifiedKFold(5, shuffle=True, random_state=0),
    scoring="f1_macro", random_state=0, n_jobs=-1)
search.fit(X_train, y_train)
print(search.best_params_, search.best_score_)
best = search.best_estimator_      # أُعيد تدريبه على كل X_train

بعد اختيار الإعدادات، قيّم best مرة واحدة على بيانات الاختبار.

قابلية التكرار

• ثبّت random_state في التقسيم والنماذج.
• سجّل إصدارات المكتبات والإعدادات والنتائج.
• احفظ النموذج المدرب مع خط المعالجة كاملاً (مثلاً باستخدام joblib).

قائمة تحقق

1. تقسيم سليم للبيانات.
2. خط أساس.
3. خط معالجة داخل Pipeline.
4. ضبط المعاملات الفائقة بالتحقق المتقاطع.
5. تقييم نهائي واحد على الاختبار.