مختبر أخلاقيات الذكاء الاصطناعي والعدالة
AI Ethics & Fairness Lab
مختبر تعليمي وبحثي تفاعلي تقيس فيه التحيز الخوارزمي بنفسك، وتقارن مقاييس العدالة، وتجرّب الخصوصية التفاضلية، وتفسّر قرارات النماذج بـSHAP وLIME، وتدقق نموذجاً قبل نشره، وتتخذ قرارات أخلاقية في سيناريوهات واقعية. كل الحسابات تجري في متصفحك، دون تسجيل دخول ودون إرسال بياناتك.
Englishأهداف المختبر
- أن ترى بعينك كيف ينتقل التحيز من البيانات إلى قرارات النموذج، وكيف تقيسه بأرقام.
- أن تفهم مقاييس العدالة الثمانية وصيغها، ولماذا تتعارض فيما بينها.
- أن تجرّب أدوات حماية الخصوصية وتقيس ثمنها في الدقة.
- أن تفسّر قرارات النماذج وتعرف حدود كل طريقة تفسير.
- أن تتدرب على تدقيق نموذج وعلى قرار نشر مسؤول بإشراف بشري.
كيف تستخدم المختبر
- اختر وحدة أو ابدأ من تجارب المستوى المبتدئ.
- اقرأ الهدف ووصف البيانات، ثم اضبط المتغيرات واضغط «شغّل التجربة».
- تابع الرسوم والأرقام والتفسير المكتوب من القيم المحسوبة، وغيّر البذرة لتختبر ثبات النتيجة.
- أرسل نتائجك إلى المساعد ليشرحها، ونزّل تقريرك PDF أو CSV، ثم انتقل إلى التجربة التالية المقترحة.
وحدات المختبر
ثماني وحدات، في كل منها تجارب حقيقية تُحسب في متصفحك مع شرح وتفسير واستنتاج وتجربة تالية.
التجارب حسب المستوى
مبتدئ 16
- محاكي تحيز القبول الجامعي
- محاكي تحيز التوظيف
- محاكي تحيز القروض
- مقارنة المجموعات عند عتبات مختلفة
- حاسبة مقاييس العدالة الثمانية
- بيانات شخصية أم مجهولة؟
- الأسماء المستعارة (Pseudonymization)
- أهمية الخصائص بالتبديل
- البيانات المتوازنة وغير المتوازنة
- قائمة التحقق للتدقيق
- مبادئ الذكاء الاصطناعي المسؤول: تقييم ذاتي
- تحليل حالات فشل موثقة
- من المسؤول؟ المطوّر والمستخدم والجهة
- سيناريو: رفض متقدم لوظيفة بسبب نظام آلي
- سيناريو: مراقبة الأفراد دون موافقة
- سيناريو: قبول جامعي منحاز
متوسط 18
- نقص التمثيل وأثره على الخطأ
- تغيّر خصائص البيانات والبيانات المفقودة
- مستكشف العدالة التفاعلي
- أي مقياس عدالة يناسب سياقي؟
- إخفاء الهوية بالتعميم (k-anonymity)
- الخصوصية التفاضلية وقيمة إبسيلون
- إعادة التعريف بالربط
- قيم SHAP لقرار فردي
- تفسير LIME واستقراره
- الاعتماد الجزئي ومنحنيات ICE
- المثال المضاد: ماذا يغيّر القرار؟
- تغيير نسبة التوازن
- ROS وRUS وSMOTE قبل وبعد
- استوديو تدقيق نموذج
- مصفوفة المخاطر قبل النشر
- قرار النشر: بوابة بقواعد معلنة
- سيناريو: تشخيص طبي غير متساوٍ بين الفئات
- سيناريو: قرار ائتماني غير قابل للتفسير
