كتب الذكاء الاصطناعيمشاريع الذكاء الاصطناعيمقالات الذكاء الاصطناعيمعجم الذكاء الاصطناعياسئلة واجوبة في الذكاء الاصطناعيأكاديمية الذكاء الاصطناعي للأطفالأكاديمية الذكاء الاصطناعيمدرسة رياضيات الذكاء الاصطناعيمختبر الذكاء الاصطناعيمختبر الخوارزميات المستوحاة من الطبيعةأطلس نماذج الذكاء الاصطناعيموسوعة تطبيقات الذكاء الاصطناعيمستكشف مجموعات البيانات للذكاء الاصطناعياختبارات الذكاء الاصطناعيالفايب كودينغدليل البرمجة بالذكاء الاصطناعيمولّد مشاريع الذكاء الاصطناعيمرصد الذكاء الاصطناعيدليل أدوات الذكاء الاصطناعي البحث والنشر الأكاديميمكتبة البرومبتات الأكاديميةمستودع الرسائل والأطاريح في الذكاء الاصطناعيحاسبة الترقية العلميةأكاديمية الوكلاء الذكيينمختبر أخلاقيات الذكاء الاصطناعي والعدالةساحة ألعاب الذكاء الاصطناعيمختبر التنبؤ بالسلاسل الزمنيةمتحف الذكاء الاصطناعيمختبر الرؤية الحاسوبيةمختبر الشبكات العصبية البيانيةمختبر معالجة اللغة الطبيعيةمختبر الحوسبة الكمّيةخرائط طريق الذكاء الاصطناعي

مختبر الذكاء الاصطناعي المسؤول

Responsible AI Lab

المبادئ الثمانية، ومصفوفة المخاطر قبل النشر، وبوابة قرار النشر، ومحاكاة الإنسان في الحلقة، وتحليل حالات فشل موثقة، وتوزيع المسؤوليات.

English

تجارب الوحدة (6)

مبتدئمختبر الذكاء الاصطناعي المسؤولمبادئ الذكاء الاصطناعي المسؤول: تقييم ذاتيتقييم نضج مشروعك في الشفافية والمساءلة والعدالة والخصوصية والموثوقية والسلامة والإشراف البشري والحوكمة.افتح التجربةمتوسطمختبر الذكاء الاصطناعي المسؤولمصفوفة المخاطر قبل النشرتقدير احتمال كل خطر وشدته والفئات المتأثرة ومستوى الإشراف والتخفيف، وحساب المخاطر المتبقية.افتح التجربةمتوسطمختبر الذكاء الاصطناعي المسؤولقرار النشر: بوابة بقواعد معلنةمعرفة متى يُنشر نظام، ومتى يُكتفى بتجربة محدودة، ومتى يُؤجل.افتح التجربةمتقدممختبر الذكاء الاصطناعي المسؤولمحاكاة الإنسان في الحلقةقياس أثر حد الثقة وسعة المراجعين ودقتهم وتحيّز الأتمتة على الخطأ النهائي لكل مجموعة.افتح التجربةمبتدئمختبر الذكاء الاصطناعي المسؤولتحليل حالات فشل موثقةربط حالات فشل حقيقية منشورة بالمبدأ الذي فشل والمقياس الذي كان سيكشفه.افتح التجربةمبتدئمختبر الذكاء الاصطناعي المسؤولمن المسؤول؟ المطوّر والمستخدم والجهةتحديد صاحب المسؤولية الأساسية عن كل مهمة في دورة حياة النظام.افتح التجربة

المفاهيم والمعادلات

معادلة درجة الخطر (Risk score)

الاحتمال × الشدة؛ النطاقات في المختبر: 1–4 منخفض، 5–9 متوسط، 10–14 مرتفع، 15–25 حرج.

R=L\times S,\quad L,S\in\{1,\dots,5\}

جرّبه في: مصفوفة المخاطر قبل النشر

الذكاء الاصطناعي المسؤول (Responsible AI)

تطوير الأنظمة ونشرها وفق مبادئ الشفافية، والمساءلة، والعدالة، والخصوصية، والموثوقية، والسلامة، والإشراف البشري، والحوكمة. تحولها أطر مثل NIST AI RMF (وظائف: الحوكمة، والتخطيط، والقياس، والإدارة) ومبادئ OECD وتوصية UNESCO إلى ممارسات قابلة للتطبيق.

جرّبه في: مبادئ الذكاء الاصطناعي المسؤول: تقييم ذاتي

الإشراف البشري والإنسان في الحلقة (Human Oversight, HITL)

إشراك إنسان قادر على فهم القرار وتغييره. فعاليته تعتمد على السعة (عدد الحالات المراجعة)، والمعلومات المتاحة، والصلاحية، والوقت، وعلى تجنب تحيز الأتمتة (قبول توصية النظام دون فحص).

جرّبه في: محاكاة الإنسان في الحلقة

تحيّز الأتمتة (Automation Bias)

ميل البشر إلى قبول توصية النظام الآلي دون فحص كافٍ، خاصة تحت ضغط الوقت. يجعل الإشراف البشري شكلياً. يخفف بالتدريب، وعرض عدم اليقين، وتصميم المراجعة بحيث يطلع المراجع على الأدلة قبل التوصية أحياناً.

جرّبه في: محاكاة الإنسان في الحلقة

مصفوفة المخاطر (Risk Matrix)

أداة تقدّر كل خطر باحتماله وشدته (عادة من 1 إلى 5)، والدرجة = الاحتمال × الشدة. يُحسب الخطر الأصلي قبل التخفيف والخطر المتبقي بعده، ويُحدد من يقبل الخطر المتبقي. المصفوفة تبسيط يحتاج أدلة وخبراء ومشاركة المتأثرين.

جرّبه في: مصفوفة المخاطر قبل النشر

قانون الذكاء الاصطناعي الأوروبي (EU AI Act)

اللائحة (EU) 2024/1689 تصنف الأنظمة حسب الخطر: ممارسات محظورة، وأنظمة عالية المخاطر (منها ما يتعلق بالتوظيف والتعليم والحصول على الخدمات الأساسية كالتقييم الائتماني، وفق الملحق الثالث) مع متطلبات مثل إدارة المخاطر وجودة البيانات والتوثيق والإشراف البشري، وأنظمة ذات التزامات شفافية. المختبر يذكره للتعليم فقط ولا يقدم استشارة قانونية.

جرّبه في: قرار النشر: بوابة بقواعد معلنة

مراجع الوحدة

  1. Artificial Intelligence Risk Management Framework (AI RMF 1.0)NIST (2023) — إطار عمل
  2. NIST AI 100-1 (AI RMF 1.0, PDF via DOI)NIST (2023) — إطار عمل
  3. Microsoft Responsible AIMicrosoft (2025) — مبادئ
  4. Google — AI ResponsibilityGoogle (2025) — مبادئ — مرجع مطبوع؛ لا يوجد رابط مفتوح موثق
  5. OECD AI PrinciplesOECD (2024) — مبادئ
  6. Recommendation on the Ethics of Artificial IntelligenceUNESCO (2021) — مبادئ
  7. Regulation (EU) 2024/1689 — Artificial Intelligence ActEuropean Union (2024) — تشريع
  8. Machine BiasJ. Angwin, J. Larson, S. Mattu, L. Kirchner (ProPublica) (2016) — حالة موثقة
  9. Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification (PMLR 81:77–91)J. Buolamwini, T. Gebru (2018) — ورقة علمية
  10. Model Cards for Model Reporting (arXiv:1810.03993)M. Mitchell et al. (2019) — ورقة علمية
  11. Closing the AI Accountability Gap: internal algorithmic auditing (arXiv:2001.00973)I. D. Raji et al. (2020) — ورقة علمية
  12. Dissecting racial bias in an algorithm used to manage the health of populations. Science 366(6464). DOI 10.1126/science.aax2342Z. Obermeyer, B. Powers, C. Vogeli, S. Mullainathan (2019) — ورقة علمية — مرجع مطبوع؛ لا يوجد رابط مفتوح موثق