Algorithmic Bias
التحيز الخوارزمي
التعريف
أخطاء منتظمة في نظام ذكاء اصطناعي تنتج نتائج غير عادلة لفئات معينة.
ينشأ من بيانات غير ممثلة أو وسوم منحازة أو تصميم المقاييس أو سياق الاستخدام. يُعالج بتدقيق البيانات وقياس العدالة وتعديل النماذج ومراجعة بشرية، ولا يوجد تعريف واحد للعدالة.
Definition
Algorithmic bias is systematic, unfair outcome disparity for certain groups caused by data, labels, design choices or deployment context.
شرح مبسّط للمبتدئين
كمسطرة منحنية: كل قياس بها يميل نحو اتجاه معين.
شرح أكاديمي متخصص
قد تتعارض معايير العدالة (التكافؤ الديموغرافي وتساوي الفرص) إحصائياً.
أمثلة عملية
- نظام توظيف يفضل فئة بعينها.
التطبيقات والاستخدامات
- التمويل والتوظيف والعدالة.
المزايا
- فهمه يحمي من الأذى.
القيود والعيوب
- معالجته معقدة وسياقية.
