مختبر تدقيق النماذج
AI Model Auditing Lab
لوحة تدقيق للأداء العام ولكل مجموعة ومعدلات الخطأ ومقاييس العدالة وجودة البيانات، مع تدقيق ملف تنبؤاتك داخل متصفحك وقائمة تحقق من ثمانية محاور.
Englishتجارب الوحدة (3)
المفاهيم والمعادلات
تدقيق النماذج (Model Auditing)
فحص منهجي لنظام ذكاء اصطناعي: الأداء العام ولكل مجموعة، وفروق معدلات الخطأ، ومقاييس العدالة، وجودة البيانات وتمثيلها، والتوثيق، والإشراف. يقترح Raji وآخرون (2020) إطاراً داخلياً شاملاً لدورة الحياة. التدقيق يوثق الحدود ولا يمنح شهادة.
بطاقة النموذج وورقة البيانات (Model Card, Datasheet)
بطاقة النموذج (Mitchell وآخرون 2019) وثيقة قصيرة تذكر غرض النموذج وبيانات تقييمه وأداءه لكل مجموعة وحدوده. ورقة البيانات (Gebru وآخرون) توثق مصدر البيانات وطريقة جمعها وتركيبها واستخداماتها المناسبة.
أسئلة وأدلة
نموذجي دقته 95%، فهل هو عادل؟
الدقة الكلية لا تخبرك بذلك. قد يخفي المتوسط أداءً ضعيفاً جداً لمجموعة صغيرة، أو قد تكون الدقة مرتفعة لأن الفئة الإيجابية نادرة. احسب المقاييس لكل مجموعة ومعدلات الخطأ ومقاييس العدالة.
هل نتائج المختبر تدقيق معتمد لنظامي؟
لا. التجارب محاكاة تعليمية على بيانات اصطناعية أو على ملفك داخل متصفحك، ولا تُعد تدقيقاً معتمداً ولا حكماً أخلاقياً أو قانونياً نهائياً. استخدمها لفهم المنهجية وتحديد الأسئلة التي يجب أن يجيب عنها تدقيق حقيقي.
هل تُرسل بياناتي أو ملفاتي إلى الخادم؟
لا. كل التجارب تعمل في متصفحك، وملف CSV في تجربة التدقيق يُقرأ محلياً ولا يُرفع. إذا ضغطت «تنزيل PDF» تُرسل إلى خادم الموقع النتائج المعروضة فقط (أرقام ورسوم) لإنشاء الملف، ثم لا تُحفظ. لا تُخزن المحادثات افتراضياً.
مراجع الوحدة
- Artificial Intelligence Risk Management Framework (AI RMF 1.0)NIST (2023) — إطار عمل
- Fairlearn — open-source fairness toolkitFairlearn contributors (2025) — أداة
- Fairlearn User Guide — AssessmentFairlearn contributors (2025) — أداة
- Model Cards for Model Reporting (arXiv:1810.03993)M. Mitchell et al. (2019) — ورقة علمية
- Datasheets for Datasets (arXiv:1803.09010)T. Gebru et al. (2018) — ورقة علمية
- Closing the AI Accountability Gap: internal algorithmic auditing (arXiv:2001.00973)I. D. Raji et al. (2020) — ورقة علمية
