طرق تخفيف التحيز
Bias Mitigation Techniques
التدخل قبل التدريب وأثناءه وبعده، ومتى يكون الحل خارج النموذج أصلاً.
ثلاث عائلات
| العائلة | أمثلة | ميزة | عيب |
|---|---|---|---|
| قبل المعالجة | إعادة الوزن، معاينة، تحسين الوسوم | مستقلة عن النموذج | قد لا تكفي |
| أثناء المعالجة | قيود في التحسين، تدريب تنافسي | تحكم أدق | تتطلب إعادة التدريب |
| بعد المعالجة | عتبات حسب المجموعة | سريعة | تحتاج السمة الحساسة وقت القرار |
أثناء المعالجة بـ Fairlearn
from fairlearn.reductions import ExponentiatedGradient, EqualizedOdds
from sklearn.linear_model import LogisticRegression
mitigator = ExponentiatedGradient(LogisticRegression(max_iter=1000), constraints=EqualizedOdds())
mitigator.fit(X_train, y_train, sensitive_features=group_train)
y_pred = mitigator.predict(X_test)بعد المعالجة
from fairlearn.postprocessing import ThresholdOptimizer
to = ThresholdOptimizer(estimator=base_model, constraints="true_positive_rate_parity",
predict_method="predict_proba", prefit=True)
to.fit(X_val, y_val, sensitive_features=group_val)
y_pred = to.predict(X_test, sensitive_features=group_test, random_state=0)قبل أن تلجأ إلى الخوارزميات
- هل التسمية نفسها متحيزة؟ (درس مصادر التحيز)
- هل يمكن جمع بيانات أكثر تمثيلاً؟
- هل طريقة استخدام القرار تضخم الضرر؟
- هل يجب أن يُتخذ هذا القرار آلياً أصلاً؟
التقييم
- قارن الأداء والعدالة قبل التدخل وبعده على بيانات اختبار مستقلة.
- ارسم منحنى المفاضلة بين الأداء ومقياس العدالة.
- أشرك أصحاب المصلحة في اختيار نقطة التوازن.
قانونية استخدام السمة الحساسة في التدريب أو القرار تختلف بين الدول والقطاعات؛ راجع الإطار القانوني المعمول به.
مصطلحات الدرس
- إعادة الوزن Reweighing
- تعديل أوزان أمثلة التدريب بحيث تصبح السمة الحساسة والتسمية مستقلتين إحصائياً في البيانات الموزونة.
- تحسين العتبات حسب المجموعة Group Threshold Optimization
- اختيار عتبة قرار مختلفة لكل مجموعة لتحقيق مقياس عدالة محدد بعد التدريب.
الملخص
طرق تخفيف التحيز ثلاث عائلات: قبل المعالجة (إعادة الوزن أو المعاينة، وتحسين جمع البيانات وتعريف الهدف)، وأثناء المعالجة (قيود عدالة في التحسين مثل طريقة الاختزال الأسية)، وبعد المعالجة (عتبات مختلفة لكل مجموعة لتحقيق مقياس محدد). كل تدخل له تكلفة على مقاييس أخرى، ويجب تقييمه على بيانات مستقلة. أحياناً يكون الحل الأفضل خارج النموذج: تعريف هدف أفضل، أو جمع بيانات ممثلة، أو تغيير طريقة استخدام القرار.
أسئلة مراجعة
-
ما ميزة التدخل بعد المعالجة؟
لا يتطلب إعادة تدريب، ويمكن تطبيقه على نموذج قائم.
-
ما الإشكال المحتمل في استخدام عتبات مختلفة لكل مجموعة؟
يتطلب استخدام السمة الحساسة وقت القرار، وهذا قد يكون محظوراً قانونياً في بعض السياقات.
المصادر والمراجع
إكمال الدرس
أكملت كل دروس المسار! يمكنك الآن طلب شهادة إكمال المسار.
اطلب الشهادة