مختبر الذكاء الاصطناعي المسؤول
Responsible AI Lab
المبادئ الثمانية، ومصفوفة المخاطر قبل النشر، وبوابة قرار النشر، ومحاكاة الإنسان في الحلقة، وتحليل حالات فشل موثقة، وتوزيع المسؤوليات.
Englishتجارب الوحدة (6)
المفاهيم والمعادلات
معادلة درجة الخطر (Risk score)
الاحتمال × الشدة؛ النطاقات في المختبر: 1–4 منخفض، 5–9 متوسط، 10–14 مرتفع، 15–25 حرج.
R=L\times S,\quad L,S\in\{1,\dots,5\}الذكاء الاصطناعي المسؤول (Responsible AI)
تطوير الأنظمة ونشرها وفق مبادئ الشفافية، والمساءلة، والعدالة، والخصوصية، والموثوقية، والسلامة، والإشراف البشري، والحوكمة. تحولها أطر مثل NIST AI RMF (وظائف: الحوكمة، والتخطيط، والقياس، والإدارة) ومبادئ OECD وتوصية UNESCO إلى ممارسات قابلة للتطبيق.
الإشراف البشري والإنسان في الحلقة (Human Oversight, HITL)
إشراك إنسان قادر على فهم القرار وتغييره. فعاليته تعتمد على السعة (عدد الحالات المراجعة)، والمعلومات المتاحة، والصلاحية، والوقت، وعلى تجنب تحيز الأتمتة (قبول توصية النظام دون فحص).
تحيّز الأتمتة (Automation Bias)
ميل البشر إلى قبول توصية النظام الآلي دون فحص كافٍ، خاصة تحت ضغط الوقت. يجعل الإشراف البشري شكلياً. يخفف بالتدريب، وعرض عدم اليقين، وتصميم المراجعة بحيث يطلع المراجع على الأدلة قبل التوصية أحياناً.
مصفوفة المخاطر (Risk Matrix)
أداة تقدّر كل خطر باحتماله وشدته (عادة من 1 إلى 5)، والدرجة = الاحتمال × الشدة. يُحسب الخطر الأصلي قبل التخفيف والخطر المتبقي بعده، ويُحدد من يقبل الخطر المتبقي. المصفوفة تبسيط يحتاج أدلة وخبراء ومشاركة المتأثرين.
قانون الذكاء الاصطناعي الأوروبي (EU AI Act)
اللائحة (EU) 2024/1689 تصنف الأنظمة حسب الخطر: ممارسات محظورة، وأنظمة عالية المخاطر (منها ما يتعلق بالتوظيف والتعليم والحصول على الخدمات الأساسية كالتقييم الائتماني، وفق الملحق الثالث) مع متطلبات مثل إدارة المخاطر وجودة البيانات والتوثيق والإشراف البشري، وأنظمة ذات التزامات شفافية. المختبر يذكره للتعليم فقط ولا يقدم استشارة قانونية.
مراجع الوحدة
- Artificial Intelligence Risk Management Framework (AI RMF 1.0)NIST (2023) — إطار عمل
- NIST AI 100-1 (AI RMF 1.0, PDF via DOI)NIST (2023) — إطار عمل
- Microsoft Responsible AIMicrosoft (2025) — مبادئ
- Google — AI ResponsibilityGoogle (2025) — مبادئ — مرجع مطبوع؛ لا يوجد رابط مفتوح موثق
- OECD AI PrinciplesOECD (2024) — مبادئ
- Recommendation on the Ethics of Artificial IntelligenceUNESCO (2021) — مبادئ
- Regulation (EU) 2024/1689 — Artificial Intelligence ActEuropean Union (2024) — تشريع
- Machine BiasJ. Angwin, J. Larson, S. Mattu, L. Kirchner (ProPublica) (2016) — حالة موثقة
- Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification (PMLR 81:77–91)J. Buolamwini, T. Gebru (2018) — ورقة علمية
- Model Cards for Model Reporting (arXiv:1810.03993)M. Mitchell et al. (2019) — ورقة علمية
- Closing the AI Accountability Gap: internal algorithmic auditing (arXiv:2001.00973)I. D. Raji et al. (2020) — ورقة علمية
- Dissecting racial bias in an algorithm used to manage the health of populations. Science 366(6464). DOI 10.1126/science.aax2342Z. Obermeyer, B. Powers, C. Vogeli, S. Mullainathan (2019) — ورقة علمية — مرجع مطبوع؛ لا يوجد رابط مفتوح موثق
