مختبر التحيز الخوارزمي
Algorithmic Bias Lab
محاكاة القبول الجامعي والتوظيف والقروض لرؤية كيف ينتقل التحيز من البيانات التاريخية والمتغيرات الوكيلة ونقص التمثيل إلى قرارات النموذج، وقياس أثر المعالجة.
Englishتجارب الوحدة (6)
المفاهيم والمعادلات
التحيز الخوارزمي (Algorithmic Bias)
خطأ منهجي في مخرجات نظام ذكاء اصطناعي يجعله يعامل مجموعات من الناس معاملة غير متكافئة دون مبرر مشروع. لا ينشأ عادة من «نية» النموذج، بل من مصادر في دورة حياة البيانات والنموذج: تحيز تاريخي في التسميات، ونقص تمثيل بعض المجموعات، وأخطاء القياس، ومتغيرات وكيلة عن السمات الحساسة، واختيار هدف تنبؤ لا يقيس ما نريده فعلاً، وطريقة التقييم والنشر. يُقاس التحيز بمقارنة معدلات القبول ومعدلات الخطأ بين المجموعات.
التحيز التاريخي (Historical Bias)
يحدث حين تعكس البيانات قرارات أو أوضاعاً سابقة غير عادلة، حتى لو جُمعت بدقة. النموذج الذي يتعلم من قرارات توظيف سابقة منحازة يتعلم الانحياز نفسه ويطبقه آلياً. في المختبر يمكنك ضبط «تحيز التسميات التاريخية» لترى كيف يكرر النموذج النمط.
تحيز التمثيل ونقص التمثيل (Representation Bias)
يحدث حين تكون بعض المجموعات ممثلة في بيانات التدريب بنسبة أقل من حجمها في الواقع، فيتعلم النموذج نمط الأغلبية ويرتفع خطؤه على الأقلية. أظهرت دراسة Gender Shades أن أنظمة تجارية أخطأت أكثر بكثير مع النساء ذوات البشرة الداكنة.
المتغير الوكيل (Proxy Variable)
متغير غير حساس ظاهرياً لكنه مرتبط بقوة بسمة حساسة، مثل الحي السكني أو اسم المدرسة. حذف السمة الحساسة من البيانات لا يمنع التمييز إذا بقي الوكيل، لأن النموذج يستنتج المعلومة منه. لذلك «العمى عن السمة» (Fairness through unawareness) لا يكفي.
طرق معالجة التحيز (Bias Mitigation)
ثلاث مراحل: قبل المعالجة (تعديل البيانات مثل إعادة الوزن Reweighing لكامران وكالدرز)، وأثناء التدريب (قيود عدالة في دالة الهدف)، وبعد التدريب (عتبات مختلفة لكل مجموعة لتحقيق معيار محدد). في المختبر: إزالة السمة، وإعادة الوزن، وإزالة الوكيل، والعتبات لكل مجموعة. كل طريقة تحسّن معياراً وقد تكلّف دقة أو معياراً آخر.
معادلة أوزان إعادة الوزن (Reweighing weights)
وزن كل مثال يجعل المجموعة والتسمية مستقلتين في البيانات الموزونة (كامران وكالدرز).
w(g,y)=\frac{P(G=g)\,P(Y=y)}{P(G=g,Y=y)}أسئلة وأدلة
لماذا لا يكفي حذف عمود الجنس أو الأصل من البيانات؟
لأن متغيرات أخرى مرتبطة به (الحي، المدرسة، فجوات العمل) تعمل وكيلاً عنه، فيستنتجه النموذج. كما أن حذفه من بيانات التقييم يمنعك من قياس الفروق أصلاً. جرّب ذلك في محاكي التحيز باختيار «إزالة السمة» مع وكيل قوي.
مراجع الوحدة
- Fairlearn — open-source fairness toolkitFairlearn contributors (2025) — أداة
- AI Fairness 360IBM Research (2025) — أداة
- Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification (PMLR 81:77–91)J. Buolamwini, T. Gebru (2018) — ورقة علمية
- Fairness and Machine Learning: Limitations and OpportunitiesS. Barocas, M. Hardt, A. Narayanan (2023) — كتاب
- A Survey on Bias and Fairness in Machine Learning (arXiv:1908.09635)N. Mehrabi et al. (2019) — ورقة علمية
- A Framework for Understanding Sources of Harm throughout the ML Life Cycle (arXiv:1901.10002)H. Suresh, J. Guttag (2019) — ورقة علمية
- Dissecting racial bias in an algorithm used to manage the health of populations. Science 366(6464). DOI 10.1126/science.aax2342Z. Obermeyer, B. Powers, C. Vogeli, S. Mullainathan (2019) — ورقة علمية — مرجع مطبوع؛ لا يوجد رابط مفتوح موثق
- Data preprocessing techniques for classification without discrimination. Knowledge and Information Systems 33. DOI 10.1007/s10115-011-0463-8F. Kamiran, T. Calders (2012) — ورقة علمية — مرجع مطبوع؛ لا يوجد رابط مفتوح موثق
