كتب الذكاء الاصطناعيمشاريع الذكاء الاصطناعيمقالات الذكاء الاصطناعيمعجم الذكاء الاصطناعياسئلة واجوبة في الذكاء الاصطناعيأكاديمية الذكاء الاصطناعي للأطفالأكاديمية الذكاء الاصطناعيمدرسة رياضيات الذكاء الاصطناعيمختبر الذكاء الاصطناعيمختبر الخوارزميات المستوحاة من الطبيعةأطلس نماذج الذكاء الاصطناعيموسوعة تطبيقات الذكاء الاصطناعيمستكشف مجموعات البيانات للذكاء الاصطناعياختبارات الذكاء الاصطناعيالفايب كودينغدليل البرمجة بالذكاء الاصطناعيمولّد مشاريع الذكاء الاصطناعيمرصد الذكاء الاصطناعيدليل أدوات الذكاء الاصطناعي البحث والنشر الأكاديميمكتبة البرومبتات الأكاديميةمستودع الرسائل والأطاريح في الذكاء الاصطناعيحاسبة الترقية العلميةأكاديمية الوكلاء الذكيينمختبر أخلاقيات الذكاء الاصطناعي والعدالةساحة ألعاب الذكاء الاصطناعيمختبر التنبؤ بالسلاسل الزمنيةمتحف الذكاء الاصطناعيمختبر الرؤية الحاسوبيةمختبر الشبكات العصبية البيانيةمختبر معالجة اللغة الطبيعيةمختبر الحوسبة الكمّيةخرائط طريق الذكاء الاصطناعي

هجوم استنتاج العضوية (تعليمي وآمن)

Membership inference (safe, educational)

قياس كيف يكشف الإفراط في التعلم ما إذا كان سجل ما ضمن بيانات التدريب.

متقدممختبر الخصوصية
English

الفكرة

يُدرَّب نموذج على بيانات اصطناعية، ثم يُطبّق هجوم عتبة الخسارة (Yeom وآخرون) ويُقاس تفوقه على التخمين.

وصف البيانات

بيانات اصطناعية تولّد في متصفحك من توزيعات معلنة؛ لا تحتوي أي بيانات شخصية حقيقية.

التجربة التالية المقترحة

مفاهيم هذه التجربة

معادلة تفوق هجوم العضوية (Membership advantage)

0 يعني أن الهجوم لا يتفوق على التخمين.

\mathrm{Adv}=\mathrm{TPR}_{\text{attack}}-\mathrm{FPR}_{\text{attack}}
هجوم استنتاج العضوية (Membership Inference)

محاولة معرفة ما إذا كان سجل معين ضمن بيانات تدريب نموذج. أبسط صورة (Yeom وآخرون 2018) تستخدم عتبة على الخسارة: النموذج المفرط في التعلم يعطي خسارة أقل على أمثلة تدريبه. يقاس الخطر بتفوق الهجوم على التخمين (Advantage = TPR − FPR). التنظيم والخصوصية التفاضلية يقللانه. في المختبر يُجرى على بيانات اصطناعية فقط لأغراض تعليمية.

المراجع العلمية للتجربة

  1. Privacy Risk in Machine Learning: Analyzing the Connection to Overfitting (arXiv:1709.01604)S. Yeom, I. Giacomelli, M. Fredrikson, S. Jha (2018) — ورقة علمية
  2. Membership Inference Attacks against Machine Learning Models (arXiv:1610.05820)R. Shokri, M. Stronati, C. Song, V. Shmatikov (2017) — ورقة علمية

تجارب أخرى في الوحدة