التقنيات الحافظة للخصوصية
Privacy-Enhancing Technologies
الخصوصية التفاضلية، والتعلم الموحد، والبيانات الاصطناعية، وحدود كل منها.
الخصوصية التفاضلية
خوارزمية \(M\) تحقق \((\varepsilon, \delta)\)-خصوصية تفاضلية إذا كان لكل مجموعتي بيانات متجاورتين \(D\) و\(D’\) ولكل مجموعة مخرجات \(S\):
$$P[M(D) \in S] \le e^{\varepsilon}\, P[M(D’) \in S] + \delta$$
آلية لابلاس لعدّ بسيط
import numpy as np
def dp_count(values, predicate, epsilon, rng=np.random.default_rng()):
true = sum(1 for v in values if predicate(v))
return true + rng.laplace(scale=1.0 / epsilon) # حساسية العد = 1DP-SGD بـ Opacus
# pip install opacus
from opacus import PrivacyEngine
engine = PrivacyEngine()
model, optimizer, train_loader = engine.make_private(
module=model, optimizer=optimizer, data_loader=train_loader,
noise_multiplier=1.1, max_grad_norm=1.0)
# ... حلقة التدريب المعتادة ...
print(engine.get_epsilon(delta=1e-5))مقارنة
| التقنية | تحمي من | لا تحمي من |
|---|---|---|
| الخصوصية التفاضلية | استنتاج وجود فرد في البيانات | أنماط المجموعات، وتكلفتها على الدقة |
| التعلم الموحد | نقل البيانات الخام | تسرب المعلومات عبر التحديثات |
| التجميع الآمن | رؤية تحديث كل مشارك منفرداً | ما يكشفه النموذج النهائي |
| البيانات الاصطناعية | مشاركة السجلات الأصلية مباشرة | الحفظ وإعادة الإنتاج دون ضمانات |
| التشفير المتماثل والحوسبة الآمنة | كشف البيانات أثناء الحساب | التكلفة الحسابية العالية |
قيمة ε وحدها لا تكفي للحكم؛ اذكر أيضاً δ، ووحدة الخصوصية (سجل أم شخص)، وطريقة المحاسبة.
مصطلحات الدرس
- التدريب بخصوصية تفاضلية DP-SGD
- نسخة من الانحدار التدرجي العشوائي تقص تدرج كل مثال وتضيف ضجيجاً غاوسياً لتحقيق الخصوصية التفاضلية.
- الخصوصية التفاضلية Differential Privacy
- ضمان رياضي بأن توزيع مخرجات خوارزمية لا يتغير إلا بقدر محدود (يُضبط بالمعامل ε) عند إضافة سجل شخص واحد أو حذفه.
- ميزانية الخصوصية Privacy Budget
- قيمة ε التي تحدد الحد الأقصى لتسرب المعلومات، وتتراكم مع كل استعلام أو حقبة تدريب.
الملخص
الخصوصية التفاضلية تعطي ضماناً رياضياً بأن مخرجات الخوارزمية لا تتغير كثيراً بإضافة شخص واحد أو حذفه، وتتحكم فيها ميزانية ε. يمكن تطبيقها على التدريب بطريقة DP-SGD التي تقص التدرجات وتضيف ضجيجاً، مع تكلفة في الدقة. التعلم الموحد يبقي البيانات في مواقعها ويتبادل تحديثات النموذج، لكنه لا يضمن الخصوصية وحده. البيانات الاصطناعية مفيدة للتطوير، لكنها قد تحفظ سجلات حقيقية إذا لم تُولَّد بضمانات.
أسئلة مراجعة
-
ماذا يعني ε أصغر في الخصوصية التفاضلية؟
حماية أقوى وضجيجاً أكبر، وغالباً دقة أقل.
-
لماذا لا يكفي التعلم الموحد وحده لضمان الخصوصية؟
لأن تحديثات النموذج قد تسرب معلومات عن البيانات المحلية، لذا يُجمع مع الخصوصية التفاضلية والتجميع الآمن.
المصادر والمراجع
إكمال الدرس
أكملت كل دروس المسار! يمكنك الآن طلب شهادة إكمال المسار.
اطلب الشهادة