هجوم استنتاج العضوية (تعليمي وآمن)
Membership inference (safe, educational)
قياس كيف يكشف الإفراط في التعلم ما إذا كان سجل ما ضمن بيانات التدريب.
Englishالفكرة
يُدرَّب نموذج على بيانات اصطناعية، ثم يُطبّق هجوم عتبة الخسارة (Yeom وآخرون) ويُقاس تفوقه على التخمين.
وصف البيانات
بيانات اصطناعية تولّد في متصفحك من توزيعات معلنة؛ لا تحتوي أي بيانات شخصية حقيقية.
التجربة التالية المقترحة
مفاهيم هذه التجربة
معادلة تفوق هجوم العضوية (Membership advantage)
0 يعني أن الهجوم لا يتفوق على التخمين.
\mathrm{Adv}=\mathrm{TPR}_{\text{attack}}-\mathrm{FPR}_{\text{attack}}هجوم استنتاج العضوية (Membership Inference)
محاولة معرفة ما إذا كان سجل معين ضمن بيانات تدريب نموذج. أبسط صورة (Yeom وآخرون 2018) تستخدم عتبة على الخسارة: النموذج المفرط في التعلم يعطي خسارة أقل على أمثلة تدريبه. يقاس الخطر بتفوق الهجوم على التخمين (Advantage = TPR − FPR). التنظيم والخصوصية التفاضلية يقللانه. في المختبر يُجرى على بيانات اصطناعية فقط لأغراض تعليمية.
المراجع العلمية للتجربة
- Privacy Risk in Machine Learning: Analyzing the Connection to Overfitting (arXiv:1709.01604)S. Yeom, I. Giacomelli, M. Fredrikson, S. Jha (2018) — ورقة علمية
- Membership Inference Attacks against Machine Learning Models (arXiv:1610.05820)R. Shokri, M. Stronati, C. Song, V. Shmatikov (2017) — ورقة علمية
