كتب الذكاء الاصطناعيمشاريع الذكاء الاصطناعيمقالات الذكاء الاصطناعيمعجم الذكاء الاصطناعياسئلة واجوبة في الذكاء الاصطناعيأكاديمية الذكاء الاصطناعي للأطفالأكاديمية الذكاء الاصطناعيمدرسة رياضيات الذكاء الاصطناعيمختبر الذكاء الاصطناعيمختبر الخوارزميات المستوحاة من الطبيعةأطلس نماذج الذكاء الاصطناعيموسوعة تطبيقات الذكاء الاصطناعيمستكشف مجموعات البيانات للذكاء الاصطناعياختبارات الذكاء الاصطناعيالفايب كودينغدليل البرمجة بالذكاء الاصطناعيمولّد مشاريع الذكاء الاصطناعيمرصد الذكاء الاصطناعيدليل أدوات الذكاء الاصطناعي البحث والنشر الأكاديميمكتبة البرومبتات الأكاديميةمستودع الرسائل والأطاريح في الذكاء الاصطناعيحاسبة الترقية العلميةأكاديمية الوكلاء الذكيينمختبر أخلاقيات الذكاء الاصطناعي والعدالةساحة ألعاب الذكاء الاصطناعيمختبر التنبؤ بالسلاسل الزمنيةمتحف الذكاء الاصطناعيمختبر الرؤية الحاسوبيةمختبر الشبكات العصبية البيانيةمختبر معالجة اللغة الطبيعيةمختبر الحوسبة الكمّيةخرائط طريق الذكاء الاصطناعيأكاديمية ماتلاب والذكاء الاصطناعيمصمم الشبكات العصبيةأكاديمية الذكاء الاصطناعي بدون برمجة

نقص التمثيل وأثره على الخطأ

Under-representation and error

قياس كيف يرتفع خطأ النموذج على المجموعة الأقل تمثيلاً كلما قلّ حجمها، مع تكرار التجربة ببذور متعددة.

متوسطمختبر التحيز الخوارزمي
English

الفكرة

يجري المسح على نسب تمثيل متعددة، ويعرض متوسط الخطأ والانحراف المعياري لكل مجموعة.

وصف البيانات

بيانات اصطناعية تولّد في متصفحك من توزيعات معلنة؛ لا تحتوي أي بيانات شخصية حقيقية. علاقة الميزات بالنتيجة تختلف جزئياً بين المجموعتين بقدر «عدم التجانس» الذي تختاره.

التجربة التالية المقترحة

مفاهيم هذه التجربة

تحيز التمثيل ونقص التمثيل (Representation Bias)

يحدث حين تكون بعض المجموعات ممثلة في بيانات التدريب بنسبة أقل من حجمها في الواقع، فيتعلم النموذج نمط الأغلبية ويرتفع خطؤه على الأقلية. أظهرت دراسة Gender Shades أن أنظمة تجارية أخطأت أكثر بكثير مع النساء ذوات البشرة الداكنة.

المراجع العلمية للتجربة

  1. Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification (PMLR 81:77–91)J. Buolamwini, T. Gebru (2018) — ورقة علمية
  2. A Framework for Understanding Sources of Harm throughout the ML Life Cycle (arXiv:1901.10002)H. Suresh, J. Guttag (2019) — ورقة علمية

تجارب أخرى في الوحدة