كتب الذكاء الاصطناعيمشاريع الذكاء الاصطناعيمقالات الذكاء الاصطناعيمعجم الذكاء الاصطناعياسئلة واجوبة في الذكاء الاصطناعيأكاديمية الذكاء الاصطناعي للأطفالأكاديمية الذكاء الاصطناعيمدرسة رياضيات الذكاء الاصطناعيمختبر الذكاء الاصطناعيمختبر الخوارزميات المستوحاة من الطبيعةأطلس نماذج الذكاء الاصطناعيموسوعة تطبيقات الذكاء الاصطناعيمستكشف مجموعات البيانات للذكاء الاصطناعياختبارات الذكاء الاصطناعيالفايب كودينغدليل البرمجة بالذكاء الاصطناعيمولّد مشاريع الذكاء الاصطناعيمرصد الذكاء الاصطناعيدليل أدوات الذكاء الاصطناعي البحث والنشر الأكاديميمكتبة البرومبتات الأكاديميةمستودع الرسائل والأطاريح في الذكاء الاصطناعيحاسبة الترقية العلميةأكاديمية الوكلاء الذكيينمختبر أخلاقيات الذكاء الاصطناعي والعدالةساحة ألعاب الذكاء الاصطناعيمختبر التنبؤ بالسلاسل الزمنيةمتحف الذكاء الاصطناعيمختبر الرؤية الحاسوبيةمختبر الشبكات العصبية البيانيةمختبر معالجة اللغة الطبيعيةمختبر الحوسبة الكمّيةخرائط طريق الذكاء الاصطناعي

أخلاقيات الذكاء الاصطناعي وحوكمته متوسط · Intermediate 14 دقيقة

التقنيات الحافظة للخصوصية

Privacy-Enhancing Technologies

الخصوصية التفاضلية، والتعلم الموحد، والبيانات الاصطناعية، وحدود كل منها.

تقدّمك في المسار0%

الخصوصية التفاضلية

خوارزمية \(M\) تحقق \((\varepsilon, \delta)\)-خصوصية تفاضلية إذا كان لكل مجموعتي بيانات متجاورتين \(D\) و\(D’\) ولكل مجموعة مخرجات \(S\):

$$P[M(D) \in S] \le e^{\varepsilon}\, P[M(D’) \in S] + \delta$$

آلية لابلاس لعدّ بسيط

import numpy as np
def dp_count(values, predicate, epsilon, rng=np.random.default_rng()):
    true = sum(1 for v in values if predicate(v))
    return true + rng.laplace(scale=1.0 / epsilon)    # حساسية العد = 1

DP-SGD بـ Opacus

# pip install opacus
from opacus import PrivacyEngine
engine = PrivacyEngine()
model, optimizer, train_loader = engine.make_private(
    module=model, optimizer=optimizer, data_loader=train_loader,
    noise_multiplier=1.1, max_grad_norm=1.0)
# ... حلقة التدريب المعتادة ...
print(engine.get_epsilon(delta=1e-5))

مقارنة

التقنيةتحمي منلا تحمي من
الخصوصية التفاضليةاستنتاج وجود فرد في البياناتأنماط المجموعات، وتكلفتها على الدقة
التعلم الموحدنقل البيانات الخامتسرب المعلومات عبر التحديثات
التجميع الآمنرؤية تحديث كل مشارك منفرداًما يكشفه النموذج النهائي
البيانات الاصطناعيةمشاركة السجلات الأصلية مباشرةالحفظ وإعادة الإنتاج دون ضمانات
التشفير المتماثل والحوسبة الآمنةكشف البيانات أثناء الحسابالتكلفة الحسابية العالية

قيمة ε وحدها لا تكفي للحكم؛ اذكر أيضاً δ، ووحدة الخصوصية (سجل أم شخص)، وطريقة المحاسبة.

مصطلحات الدرس

التدريب بخصوصية تفاضلية DP-SGD
نسخة من الانحدار التدرجي العشوائي تقص تدرج كل مثال وتضيف ضجيجاً غاوسياً لتحقيق الخصوصية التفاضلية.
الخصوصية التفاضلية Differential Privacy
ضمان رياضي بأن توزيع مخرجات خوارزمية لا يتغير إلا بقدر محدود (يُضبط بالمعامل ε) عند إضافة سجل شخص واحد أو حذفه.
ميزانية الخصوصية Privacy Budget
قيمة ε التي تحدد الحد الأقصى لتسرب المعلومات، وتتراكم مع كل استعلام أو حقبة تدريب.

الملخص

الخصوصية التفاضلية تعطي ضماناً رياضياً بأن مخرجات الخوارزمية لا تتغير كثيراً بإضافة شخص واحد أو حذفه، وتتحكم فيها ميزانية ε. يمكن تطبيقها على التدريب بطريقة DP-SGD التي تقص التدرجات وتضيف ضجيجاً، مع تكلفة في الدقة. التعلم الموحد يبقي البيانات في مواقعها ويتبادل تحديثات النموذج، لكنه لا يضمن الخصوصية وحده. البيانات الاصطناعية مفيدة للتطوير، لكنها قد تحفظ سجلات حقيقية إذا لم تُولَّد بضمانات.

أسئلة مراجعة

  1. ماذا يعني ε أصغر في الخصوصية التفاضلية؟

    حماية أقوى وضجيجاً أكبر، وغالباً دقة أقل.

  2. لماذا لا يكفي التعلم الموحد وحده لضمان الخصوصية؟

    لأن تحديثات النموذج قد تسرب معلومات عن البيانات المحلية، لذا يُجمع مع الخصوصية التفاضلية والتجميع الآمن.

المصادر والمراجع

  1. Dwork & Roth — The Algorithmic Foundations of Differential Privacy
  2. Abadi et al. (2016) — Deep Learning with Differential Privacy
  3. McMahan et al. (2017) — Communication-Efficient Learning of Deep Networks from Decentralized Data
  4. Opacus

إكمال الدرس