مختبر الخصوصية
Privacy Lab
البيانات الشخصية وإخفاء الهوية والأسماء المستعارة والخصوصية التفاضلية وميزانية الخصوصية واستنتاج العضوية وإعادة التعريف، على بيانات اصطناعية فقط.
Englishتجارب الوحدة (7)
المفاهيم والمعادلات
معادلة آلية لابلاس (Laplace mechanism)
Δf حساسية الاستعلام (1 للعدّ)؛ ε أصغر يعني ضجيجاً أكبر.
M(D)=f(D)+\mathrm{Lap}\!\left(\frac{\Delta f}{\varepsilon}\right),\quad \mathbb{E}|\text{noise}|=\frac{\Delta f}{\varepsilon}معادلة تعريف الخصوصية التفاضلية (Definition of ε-differential privacy)
لكل مجموعتي بيانات D وD′ تختلفان في شخص واحد ولكل مجموعة نتائج S.
P[M(D)\in S]\le e^{\varepsilon}\,P[M(D^\prime)\in S]معادلة التركيب التسلسلي (Sequential composition)
ميزانية الخصوصية تُستهلك بمجموع قيم ε.
\varepsilon_{\text{total}}=\sum_{i=1}^{k}\varepsilon_iالخصوصية في الذكاء الاصطناعي (Privacy)
حماية الأفراد من كشف معلومات عنهم أو استخدامها لغير غرضها. تشمل تقليل البيانات، وتحديد الغرض، والموافقة، وإخفاء الهوية، والحماية من الهجمات على النماذج مثل استنتاج العضوية وإعادة التعريف.
معادلة تفوق هجوم العضوية (Membership advantage)
0 يعني أن الهجوم لا يتفوق على التخمين.
\mathrm{Adv}=\mathrm{TPR}_{\text{attack}}-\mathrm{FPR}_{\text{attack}}البيانات الشخصية وأشباه المعرّفات (Personal Data, Quasi-identifiers)
البيانات الشخصية هي أي معلومة تتعلق بشخص محدد أو قابل للتحديد. المعرّف المباشر يحدد الشخص وحده (الاسم، رقم الهوية)، وشبه المعرّف لا يحدده وحده لكنه يفعل مع غيره (العمر، الرمز البريدي، الجنس). البيانات الحساسة فئة خاصة (الصحة، البيانات البيومترية).
إخفاء الهوية k (k-anonymity)
يتحقق حين يتطابق كل سجل مع k − 1 سجلاً آخر على الأقل في أشباه المعرّفات، عبر التعميم (عمر 30–39 بدل 34) أو الحذف. يحمي من الربط بالهوية، لكنه لا يحمي من كشف السمة إذا تشابهت القيمة الحساسة داخل المجموعة.
الأسماء المستعارة (Pseudonymization)
استبدال المعرّف برمز لا يكشف الشخص إلا بمعلومة إضافية محفوظة منفصلة. التجزئة البسيطة (Hash) دون مفتاح سري قابلة للعكس بالتخمين إذا كانت القيم محدودة، والأفضل HMAC بمفتاح سري. البيانات المستعارة تبقى بيانات شخصية في GDPR.
الخصوصية التفاضلية (Differential Privacy)
ضمان رياضي بأن نتيجة التحليل لا تتغير كثيراً بإضافة شخص واحد أو حذفه، فلا يمكن استنتاج وجوده. تُحقق بإضافة ضجيج معاير، مثل آلية لابلاس بمقياس Δ/ε حيث Δ الحساسية. ε أصغر = خصوصية أقوى وضجيج أكبر. المرجع الأساسي: Dwork وRoth (2014).
ميزانية الخصوصية (Privacy Budget)
وفق التركيب التسلسلي تتراكم قيم ε لكل الاستعلامات على البيانات نفسها: k استعلامات بقيمة ε لكل منها تستهلك kε. لذلك تُحدد ميزانية كلية وتوزع على الاستعلامات، وكل استعلام إضافي يقلل نصيب الآخرين ويزيد ضجيجهم.
هجوم استنتاج العضوية (Membership Inference)
محاولة معرفة ما إذا كان سجل معين ضمن بيانات تدريب نموذج. أبسط صورة (Yeom وآخرون 2018) تستخدم عتبة على الخسارة: النموذج المفرط في التعلم يعطي خسارة أقل على أمثلة تدريبه. يقاس الخطر بتفوق الهجوم على التخمين (Advantage = TPR − FPR). التنظيم والخصوصية التفاضلية يقللانه. في المختبر يُجرى على بيانات اصطناعية فقط لأغراض تعليمية.
إعادة التعريف (Re-identification)
ربط سجلات «مجهولة» بأشخاص حقيقيين عبر مطابقة أشباه المعرّفات مع مصدر علني. أظهرت Sweeney (2000) أن الرمز البريدي وتاريخ الميلاد والجنس تكفي لتمييز نسبة كبيرة من سكان الولايات المتحدة.
أسئلة وأدلة
ما القيمة المناسبة لإبسيلون في الخصوصية التفاضلية؟
لا توجد قيمة عالمية. القيم الصغيرة (أقل من 1) تعطي ضماناً قوياً بضجيج كبير، والقيم الكبيرة تضعف الضمان. يعتمد الاختيار على حساسية البيانات وعدد الاستعلامات (الميزانية الكلية) والدقة المطلوبة، ويجب الإعلان عنه.
هل حذف الأسماء يجعل البيانات مجهولة الهوية؟
لا. أشباه المعرّفات مجتمعة (العمر، الرمز البريدي، الجنس، التاريخ) قد تميز الأفراد وتسمح بربطهم بمصادر علنية، كما أظهرت Sweeney (2000). جرّب تجربتي إعادة التعريف وk-anonymity.
مراجع الوحدة
- Regulation (EU) 2016/679 — General Data Protection RegulationEuropean Union (2016) — تشريع
- The Algorithmic Foundations of Differential PrivacyC. Dwork, A. Roth (2014) — ورقة علمية
- Simple Demographics Often Identify People UniquelyL. Sweeney (2000) — ورقة علمية
- Privacy Risk in Machine Learning: Analyzing the Connection to Overfitting (arXiv:1709.01604)S. Yeom, I. Giacomelli, M. Fredrikson, S. Jha (2018) — ورقة علمية
- Membership Inference Attacks against Machine Learning Models (arXiv:1610.05820)R. Shokri, M. Stronati, C. Song, V. Shmatikov (2017) — ورقة علمية
