مختبر العدالة الخوارزمية
Algorithmic Fairness Lab
ثمانية مقاييس عدالة بتعريفاتها وصيغها وأمثلة رقمية تفاعلية، وتجربة توضح لماذا لا يمكن تحقيقها جميعاً في الوقت نفسه.
Englishتجارب الوحدة (4)
المفاهيم والمعادلات
معادلة التكافؤ الديموغرافي (Demographic parity)
الفرق بين أعلى وأدنى معدل قبول بين المجموعات؛ 0 يعني تكافؤاً تاماً.
\mathrm{DPD}=\max_g P(\hat Y=1\mid G=g)-\min_g P(\hat Y=1\mid G=g)معادلة فرق التكافؤ الإحصائي (Statistical parity difference)
u المجموعة غير المميزة وp المميزة؛ القيمة السالبة تعني قبولاً أقل لـ u.
\mathrm{SPD}=P(\hat Y=1\mid G=u)-P(\hat Y=1\mid G=p)معادلة نسبة الأثر المتباين (Disparate impact ratio)
تُقارن بحد الأربعة أخماس 0.8 مؤشراً إرشادياً.
\mathrm{DIR}=\frac{P(\hat Y=1\mid G=u)}{P(\hat Y=1\mid G=p)}معادلة فرق تكافؤ الفرص (Equal opportunity difference)
فرق معدل الإيجابيات الحقيقية بين المجموعتين.
\mathrm{EOD}=\mathrm{TPR}_u-\mathrm{TPR}_p,\quad \mathrm{TPR}=\frac{TP}{TP+FN}معادلة فرق الاحتمالات المتكافئة (Equalized odds difference)
أكبر الفرقين في TPR وFPR (تعريف Fairlearn).
\mathrm{EOdds}=\max\left(|\mathrm{TPR}_u-\mathrm{TPR}_p|,\;|\mathrm{FPR}_u-\mathrm{FPR}_p|\right)السمة الحساسة والمجموعة المحمية (Sensitive Attribute)
خاصية لا يجوز أن يُبنى عليها تمييز غير مبرر، مثل الجنس أو الأصل أو الدين أو الإعاقة أو العمر، بحسب السياق والقانون. تُستخدم السمة الحساسة في التقييم لقياس الفروق بين المجموعات حتى لو لم تُستخدم في التنبؤ.
معادلة فرق التكافؤ التنبؤي (Predictive parity difference)
فرق الدقة الإيجابية بين المجموعتين.
\mathrm{PPD}=\mathrm{PPV}_u-\mathrm{PPV}_p,\quad \mathrm{PPV}=\frac{TP}{TP+FP}العدالة الخوارزمية (Algorithmic Fairness)
مجموعة تعريفات ومقاييس تحدد ما يعنيه أن يعامل النظام المجموعات معاملة منصفة. تنقسم إلى معايير الاستقلال (معدلات قبول متساوية)، والفصل (معدلات خطأ متساوية بشرط القيمة الحقيقية)، والكفاية (دقة تنبؤ إيجابي متساوية). هذه المعايير لا يمكن تحقيقها كلها معاً عند اختلاف المعدلات الأساسية، فاختيار المعيار قرار سياقي.
معادلة فرقا FPR وFNR (FPR and FNR differences)
يُحسب الفرق u − p لكل منهما.
\mathrm{FPR}=\frac{FP}{FP+TN},\quad \mathrm{FNR}=\frac{FN}{FN+TP}التكافؤ الديموغرافي (Demographic Parity)
يتحقق حين يكون معدل القرار الإيجابي (القبول) متساوياً بين المجموعات بغض النظر عن القيمة الحقيقية. يُقاس بالفرق DPD (أكبر فرق بين معدلات القبول) أو بالنسبة DPR. مناسب حين نريد توزيع فرص متساوياً، لكنه قد يتعارض مع الدقة إذا اختلفت المعدلات الأساسية.
نسبة الأثر المتباين (Disparate Impact Ratio)
نسبة معدل القبول في المجموعة غير المميزة إلى معدل القبول في المجموعة المميزة. يُستخدم حد «الأربعة أخماس» 0.8 مؤشراً إرشادياً في سياق التوظيف الأمريكي؛ النسبة دون 0.8 تستحق التحقيق، لكنها ليست حكماً قانونياً بذاتها.
تكافؤ الفرص (Equal Opportunity)
يتحقق حين يكون معدل الإيجابيات الحقيقية (TPR أو الاستدعاء) متساوياً بين المجموعات: المؤهلون من كل مجموعة يحصلون على الفرصة بالمعدل نفسه. اقترحه Hardt وPrice وSrebro (2016). مناسب حين يكون حرمان المستحق هو الضرر الأهم.
الاحتمالات المتكافئة (Equalized Odds)
يتطلب تساوي معدل الإيجابيات الحقيقية ومعدل الإيجابيات الكاذبة معاً بين المجموعات. يُقاس الفرق عادة بأكبر الفرقين. أشد من تكافؤ الفرص لأنه يشمل نوعي الخطأ.
التكافؤ التنبؤي (Predictive Parity)
يتحقق حين تتساوى القيمة التنبؤية الموجبة (PPV أو Precision) بين المجموعات: القرار الإيجابي يعني الشيء نفسه لكل مجموعة. أظهرت Chouldechova أنه يتعارض مع تساوي معدلات الخطأ عند اختلاف المعدلات الأساسية.
نتائج الاستحالة في العدالة (Impossibility Results)
أثبت Kleinberg وMullainathan وRaghavan (2016) وChouldechova (2017) أنه عند اختلاف المعدلات الأساسية بين المجموعات لا يمكن الجمع بين المعايرة (أو التكافؤ التنبؤي) وتساوي معدلات الخطأ إلا في حالات خاصة (نموذج مثالي أو معدلات أساسية متساوية). لذلك يجب اختيار المعيار وتبريره.
معدل الإيجابيات الكاذبة والسلبيات الكاذبة (FPR / FNR)
FPR نسبة الحالات السلبية فعلاً التي صُنفت إيجابية خطأً، وFNR نسبة الحالات الإيجابية فعلاً التي فاتت النموذج. الفرق بين المجموعات في FPR أو FNR يعني أن عبء الخطأ لا يتوزع بالتساوي. في قضية COMPAS كان الخلاف حول فرق FPR.
أسئلة وأدلة
هل يكفي مقياس عدالة واحد للحكم على النظام؟
لا. كل مقياس يجيب عن سؤال مختلف، وبعضها يتعارض رياضياً عند اختلاف المعدلات الأساسية. احسب عدة مقاييس، واختر الأنسب للسياق مع تبرير، وأضف تحليلاً نوعياً لمن يتضرر من كل خطأ.
ما قصة COMPAS ولماذا تُذكر في العدالة الخوارزمية؟
COMPAS أداة تجارية لتقدير خطر العودة للجريمة. وجد تحليل ProPublica (2016) أن المتهمين السود الذين لم يعودوا صُنفوا عالي الخطر بمعدل أعلى (فرق FPR)، بينما ردت الشركة بأن الأداة معايرة بين المجموعات. أظهرت أبحاث Kleinberg وChouldechova أن الادعاءين قد يصحان معاً لأن المقياسين لا يجتمعان عند اختلاف المعدلات الأساسية.
مراجع الوحدة
- Fairlearn — open-source fairness toolkitFairlearn contributors (2025) — أداة
- Fairlearn User Guide — AssessmentFairlearn contributors (2025) — أداة
- AI Fairness 360IBM Research (2025) — أداة
- Machine BiasJ. Angwin, J. Larson, S. Mattu, L. Kirchner (ProPublica) (2016) — حالة موثقة
- Fairness and Machine Learning: Limitations and OpportunitiesS. Barocas, M. Hardt, A. Narayanan (2023) — كتاب
- Equality of Opportunity in Supervised Learning (arXiv:1610.02413)M. Hardt, E. Price, N. Srebro (2016) — ورقة علمية
- Inherent Trade-Offs in the Fair Determination of Risk Scores (arXiv:1609.05807)J. Kleinberg, S. Mullainathan, M. Raghavan (2016) — ورقة علمية
- Fair prediction with disparate impact (arXiv:1610.07524)A. Chouldechova (2017) — ورقة علمية
