كتب الذكاء الاصطناعيمشاريع الذكاء الاصطناعيمقالات الذكاء الاصطناعيمعجم الذكاء الاصطناعياسئلة واجوبة في الذكاء الاصطناعيأكاديمية الذكاء الاصطناعي للأطفالأكاديمية الذكاء الاصطناعيمدرسة رياضيات الذكاء الاصطناعيمختبر الذكاء الاصطناعيمختبر الخوارزميات المستوحاة من الطبيعةأطلس نماذج الذكاء الاصطناعيموسوعة تطبيقات الذكاء الاصطناعيمستكشف مجموعات البيانات للذكاء الاصطناعياختبارات الذكاء الاصطناعيالفايب كودينغدليل البرمجة بالذكاء الاصطناعيمولّد مشاريع الذكاء الاصطناعيمرصد الذكاء الاصطناعيدليل أدوات الذكاء الاصطناعي البحث والنشر الأكاديميمكتبة البرومبتات الأكاديميةمستودع الرسائل والأطاريح في الذكاء الاصطناعيحاسبة الترقية العلميةأكاديمية الوكلاء الذكيينمختبر أخلاقيات الذكاء الاصطناعي والعدالةساحة ألعاب الذكاء الاصطناعيمختبر التنبؤ بالسلاسل الزمنيةمتحف الذكاء الاصطناعيمختبر الرؤية الحاسوبيةمختبر الشبكات العصبية البيانيةمختبر معالجة اللغة الطبيعيةمختبر الحوسبة الكمّيةخرائط طريق الذكاء الاصطناعيأكاديمية ماتلاب والذكاء الاصطناعيمصمم الشبكات العصبيةأكاديمية الذكاء الاصطناعي بدون برمجة

أخلاقيات الذكاء الاصطناعي وحوكمته متوسط · Intermediate 13 دقيقة

طرق تخفيف التحيز

Bias Mitigation Techniques

التدخل قبل التدريب وأثناءه وبعده، ومتى يكون الحل خارج النموذج أصلاً.

تقدّمك في المسار0%

ثلاث عائلات

العائلةأمثلةميزةعيب
قبل المعالجةإعادة الوزن، معاينة، تحسين الوسوممستقلة عن النموذجقد لا تكفي
أثناء المعالجةقيود في التحسين، تدريب تنافسيتحكم أدقتتطلب إعادة التدريب
بعد المعالجةعتبات حسب المجموعةسريعةتحتاج السمة الحساسة وقت القرار

أثناء المعالجة بـ Fairlearn

from fairlearn.reductions import ExponentiatedGradient, EqualizedOdds
from sklearn.linear_model import LogisticRegression
mitigator = ExponentiatedGradient(LogisticRegression(max_iter=1000), constraints=EqualizedOdds())
mitigator.fit(X_train, y_train, sensitive_features=group_train)
y_pred = mitigator.predict(X_test)

بعد المعالجة

from fairlearn.postprocessing import ThresholdOptimizer
to = ThresholdOptimizer(estimator=base_model, constraints="true_positive_rate_parity",
                        predict_method="predict_proba", prefit=True)
to.fit(X_val, y_val, sensitive_features=group_val)
y_pred = to.predict(X_test, sensitive_features=group_test, random_state=0)

قبل أن تلجأ إلى الخوارزميات

  1. هل التسمية نفسها متحيزة؟ (درس مصادر التحيز)
  2. هل يمكن جمع بيانات أكثر تمثيلاً؟
  3. هل طريقة استخدام القرار تضخم الضرر؟
  4. هل يجب أن يُتخذ هذا القرار آلياً أصلاً؟

التقييم

  • قارن الأداء والعدالة قبل التدخل وبعده على بيانات اختبار مستقلة.
  • ارسم منحنى المفاضلة بين الأداء ومقياس العدالة.
  • أشرك أصحاب المصلحة في اختيار نقطة التوازن.

قانونية استخدام السمة الحساسة في التدريب أو القرار تختلف بين الدول والقطاعات؛ راجع الإطار القانوني المعمول به.

مصطلحات الدرس

إعادة الوزن Reweighing
تعديل أوزان أمثلة التدريب بحيث تصبح السمة الحساسة والتسمية مستقلتين إحصائياً في البيانات الموزونة.
تحسين العتبات حسب المجموعة Group Threshold Optimization
اختيار عتبة قرار مختلفة لكل مجموعة لتحقيق مقياس عدالة محدد بعد التدريب.

الملخص

طرق تخفيف التحيز ثلاث عائلات: قبل المعالجة (إعادة الوزن أو المعاينة، وتحسين جمع البيانات وتعريف الهدف)، وأثناء المعالجة (قيود عدالة في التحسين مثل طريقة الاختزال الأسية)، وبعد المعالجة (عتبات مختلفة لكل مجموعة لتحقيق مقياس محدد). كل تدخل له تكلفة على مقاييس أخرى، ويجب تقييمه على بيانات مستقلة. أحياناً يكون الحل الأفضل خارج النموذج: تعريف هدف أفضل، أو جمع بيانات ممثلة، أو تغيير طريقة استخدام القرار.

أسئلة مراجعة

  1. ما ميزة التدخل بعد المعالجة؟

    لا يتطلب إعادة تدريب، ويمكن تطبيقه على نموذج قائم.

  2. ما الإشكال المحتمل في استخدام عتبات مختلفة لكل مجموعة؟

    يتطلب استخدام السمة الحساسة وقت القرار، وهذا قد يكون محظوراً قانونياً في بعض السياقات.

المصادر والمراجع

  1. Fairlearn — Mitigation
  2. Agarwal et al. (2018) — A Reductions Approach to Fair Classification
  3. Hardt, Price & Srebro (2016) — Equality of Opportunity in Supervised Learning
  4. AI Fairness 360

إكمال الدرس