كتب الذكاء الاصطناعيمشاريع الذكاء الاصطناعيمقالات الذكاء الاصطناعيمعجم الذكاء الاصطناعياسئلة واجوبة في الذكاء الاصطناعيأكاديمية الذكاء الاصطناعي للأطفالأكاديمية الذكاء الاصطناعيمدرسة رياضيات الذكاء الاصطناعيمختبر الذكاء الاصطناعيمختبر الخوارزميات المستوحاة من الطبيعةأطلس نماذج الذكاء الاصطناعيموسوعة تطبيقات الذكاء الاصطناعيمستكشف مجموعات البيانات للذكاء الاصطناعياختبارات الذكاء الاصطناعيالفايب كودينغدليل البرمجة بالذكاء الاصطناعيمولّد مشاريع الذكاء الاصطناعيمرصد الذكاء الاصطناعيدليل أدوات الذكاء الاصطناعي البحث والنشر الأكاديميمكتبة البرومبتات الأكاديميةمستودع الرسائل والأطاريح في الذكاء الاصطناعيحاسبة الترقية العلميةأكاديمية الوكلاء الذكيينمختبر أخلاقيات الذكاء الاصطناعي والعدالةساحة ألعاب الذكاء الاصطناعيمختبر التنبؤ بالسلاسل الزمنيةمتحف الذكاء الاصطناعيمختبر الرؤية الحاسوبيةمختبر الشبكات العصبية البيانيةمختبر معالجة اللغة الطبيعيةمختبر الحوسبة الكمّيةخرائط طريق الذكاء الاصطناعيأكاديمية ماتلاب والذكاء الاصطناعيمصمم الشبكات العصبيةأكاديمية الذكاء الاصطناعي بدون برمجة

مختبر التحيز الخوارزمي

Algorithmic Bias Lab

محاكاة القبول الجامعي والتوظيف والقروض لرؤية كيف ينتقل التحيز من البيانات التاريخية والمتغيرات الوكيلة ونقص التمثيل إلى قرارات النموذج، وقياس أثر المعالجة.

English

تجارب الوحدة (6)

مبتدئمختبر التحيز الخوارزميمحاكي تحيز القبول الجامعيملاحظة كيف ينتقل التحيز من التسميات التاريخية والمتغيرات الوكيلة ونقص التمثيل إلى قرارات نموذج القبول الجامعي، وقياس أثر طرق المعالجة.افتح التجربةمبتدئمختبر التحيز الخوارزميمحاكي تحيز التوظيفملاحظة كيف ينتقل التحيز من التسميات التاريخية والمتغيرات الوكيلة ونقص التمثيل إلى قرارات نموذج التوظيف، وقياس أثر طرق المعالجة.افتح التجربةمبتدئمختبر التحيز الخوارزميمحاكي تحيز القروضملاحظة كيف ينتقل التحيز من التسميات التاريخية والمتغيرات الوكيلة ونقص التمثيل إلى قرارات نموذج القروض، وقياس أثر طرق المعالجة.افتح التجربةمبتدئمختبر التحيز الخوارزميمقارنة المجموعات عند عتبات مختلفةرؤية أثر العتبة على معدلات القبول والخطأ لكل مجموعة لحظياً.افتح التجربةمتوسطمختبر التحيز الخوارزمينقص التمثيل وأثره على الخطأقياس كيف يرتفع خطأ النموذج على المجموعة الأقل تمثيلاً كلما قلّ حجمها، مع تكرار التجربة ببذور متعددة.افتح التجربةمتوسطمختبر التحيز الخوارزميتغيّر خصائص البيانات والبيانات المفقودةملاحظة أثر انزياح توزيع المجموعة ب والبيانات المفقودة غير المتساوية على العدالة.افتح التجربة

المفاهيم والمعادلات

التحيز الخوارزمي (Algorithmic Bias)

خطأ منهجي في مخرجات نظام ذكاء اصطناعي يجعله يعامل مجموعات من الناس معاملة غير متكافئة دون مبرر مشروع. لا ينشأ عادة من «نية» النموذج، بل من مصادر في دورة حياة البيانات والنموذج: تحيز تاريخي في التسميات، ونقص تمثيل بعض المجموعات، وأخطاء القياس، ومتغيرات وكيلة عن السمات الحساسة، واختيار هدف تنبؤ لا يقيس ما نريده فعلاً، وطريقة التقييم والنشر. يُقاس التحيز بمقارنة معدلات القبول ومعدلات الخطأ بين المجموعات.

جرّبه في: محاكي تحيز التوظيف

التحيز التاريخي (Historical Bias)

يحدث حين تعكس البيانات قرارات أو أوضاعاً سابقة غير عادلة، حتى لو جُمعت بدقة. النموذج الذي يتعلم من قرارات توظيف سابقة منحازة يتعلم الانحياز نفسه ويطبقه آلياً. في المختبر يمكنك ضبط «تحيز التسميات التاريخية» لترى كيف يكرر النموذج النمط.

جرّبه في: محاكي تحيز التوظيف

تحيز التمثيل ونقص التمثيل (Representation Bias)

يحدث حين تكون بعض المجموعات ممثلة في بيانات التدريب بنسبة أقل من حجمها في الواقع، فيتعلم النموذج نمط الأغلبية ويرتفع خطؤه على الأقلية. أظهرت دراسة Gender Shades أن أنظمة تجارية أخطأت أكثر بكثير مع النساء ذوات البشرة الداكنة.

جرّبه في: نقص التمثيل وأثره على الخطأ

المتغير الوكيل (Proxy Variable)

متغير غير حساس ظاهرياً لكنه مرتبط بقوة بسمة حساسة، مثل الحي السكني أو اسم المدرسة. حذف السمة الحساسة من البيانات لا يمنع التمييز إذا بقي الوكيل، لأن النموذج يستنتج المعلومة منه. لذلك «العمى عن السمة» (Fairness through unawareness) لا يكفي.

جرّبه في: محاكي تحيز التوظيف

طرق معالجة التحيز (Bias Mitigation)

ثلاث مراحل: قبل المعالجة (تعديل البيانات مثل إعادة الوزن Reweighing لكامران وكالدرز)، وأثناء التدريب (قيود عدالة في دالة الهدف)، وبعد التدريب (عتبات مختلفة لكل مجموعة لتحقيق معيار محدد). في المختبر: إزالة السمة، وإعادة الوزن، وإزالة الوكيل، والعتبات لكل مجموعة. كل طريقة تحسّن معياراً وقد تكلّف دقة أو معياراً آخر.

جرّبه في: محاكي تحيز التوظيف

معادلة أوزان إعادة الوزن (Reweighing weights)

وزن كل مثال يجعل المجموعة والتسمية مستقلتين في البيانات الموزونة (كامران وكالدرز).

w(g,y)=\frac{P(G=g)\,P(Y=y)}{P(G=g,Y=y)}

جرّبه في: محاكي تحيز التوظيف

أسئلة وأدلة

لماذا لا يكفي حذف عمود الجنس أو الأصل من البيانات؟

لأن متغيرات أخرى مرتبطة به (الحي، المدرسة، فجوات العمل) تعمل وكيلاً عنه، فيستنتجه النموذج. كما أن حذفه من بيانات التقييم يمنعك من قياس الفروق أصلاً. جرّب ذلك في محاكي التحيز باختيار «إزالة السمة» مع وكيل قوي.

جرّبه في: محاكي تحيز التوظيف

مراجع الوحدة

  1. Fairlearn — open-source fairness toolkitFairlearn contributors (2025) — أداة
  2. AI Fairness 360IBM Research (2025) — أداة
  3. Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification (PMLR 81:77–91)J. Buolamwini, T. Gebru (2018) — ورقة علمية
  4. Fairness and Machine Learning: Limitations and OpportunitiesS. Barocas, M. Hardt, A. Narayanan (2023) — كتاب
  5. A Survey on Bias and Fairness in Machine Learning (arXiv:1908.09635)N. Mehrabi et al. (2019) — ورقة علمية
  6. A Framework for Understanding Sources of Harm throughout the ML Life Cycle (arXiv:1901.10002)H. Suresh, J. Guttag (2019) — ورقة علمية
  7. Dissecting racial bias in an algorithm used to manage the health of populations. Science 366(6464). DOI 10.1126/science.aax2342Z. Obermeyer, B. Powers, C. Vogeli, S. Mullainathan (2019) — ورقة علمية — مرجع مطبوع؛ لا يوجد رابط مفتوح موثق
  8. Data preprocessing techniques for classification without discrimination. Knowledge and Information Systems 33. DOI 10.1007/s10115-011-0463-8F. Kamiran, T. Calders (2012) — ورقة علمية — مرجع مطبوع؛ لا يوجد رابط مفتوح موثق