كتب الذكاء الاصطناعيمشاريع الذكاء الاصطناعيمقالات الذكاء الاصطناعيمعجم الذكاء الاصطناعياسئلة واجوبة في الذكاء الاصطناعيأكاديمية الذكاء الاصطناعي للأطفالأكاديمية الذكاء الاصطناعيمدرسة رياضيات الذكاء الاصطناعيمختبر الذكاء الاصطناعيمختبر الخوارزميات المستوحاة من الطبيعةأطلس نماذج الذكاء الاصطناعيموسوعة تطبيقات الذكاء الاصطناعيمستكشف مجموعات البيانات للذكاء الاصطناعياختبارات الذكاء الاصطناعيالفايب كودينغدليل البرمجة بالذكاء الاصطناعيمولّد مشاريع الذكاء الاصطناعيمرصد الذكاء الاصطناعيدليل أدوات الذكاء الاصطناعي البحث والنشر الأكاديميمكتبة البرومبتات الأكاديميةمستودع الرسائل والأطاريح في الذكاء الاصطناعيحاسبة الترقية العلميةأكاديمية الوكلاء الذكيينمختبر أخلاقيات الذكاء الاصطناعي والعدالةساحة ألعاب الذكاء الاصطناعيمختبر التنبؤ بالسلاسل الزمنيةمتحف الذكاء الاصطناعيمختبر الرؤية الحاسوبيةمختبر الشبكات العصبية البيانيةمختبر معالجة اللغة الطبيعيةمختبر الحوسبة الكمّيةخرائط طريق الذكاء الاصطناعيأكاديمية ماتلاب والذكاء الاصطناعيمصمم الشبكات العصبيةأكاديمية الذكاء الاصطناعي بدون برمجة

مختبر الخصوصية

Privacy Lab

البيانات الشخصية وإخفاء الهوية والأسماء المستعارة والخصوصية التفاضلية وميزانية الخصوصية واستنتاج العضوية وإعادة التعريف، على بيانات اصطناعية فقط.

English

تجارب الوحدة (7)

مبتدئمختبر الخصوصيةبيانات شخصية أم مجهولة؟التمييز بين المعرّفات المباشرة وأشباه المعرّفات والبيانات الحساسة والبيانات غير الشخصية.افتح التجربةمتوسطمختبر الخصوصيةإخفاء الهوية بالتعميم (k-anonymity)قياس k قبل التعميم وبعده وكلفة ذلك على فائدة البيانات.افتح التجربةمبتدئمختبر الخصوصيةالأسماء المستعارة (Pseudonymization)فهم الفرق بين التجزئة البسيطة والتجزئة بمفتاح سري، ولماذا تبقى البيانات المستعارة بيانات شخصية.افتح التجربةمتوسطمختبر الخصوصيةالخصوصية التفاضلية وقيمة إبسيلونرؤية المفاضلة بين الخصوصية والدقة بتغيير ε في آلية لابلاس.افتح التجربةمتقدممختبر الخصوصيةميزانية الخصوصيةفهم كيف تتراكم ε مع كل استعلام (التركيب التسلسلي) وأثر ذلك على عدد الاستعلامات المسموحة.افتح التجربةمتقدممختبر الخصوصيةهجوم استنتاج العضوية (تعليمي وآمن)قياس كيف يكشف الإفراط في التعلم ما إذا كان سجل ما ضمن بيانات التدريب.افتح التجربةمتوسطمختبر الخصوصيةإعادة التعريف بالربطمحاكاة ربط جدول «مجهول» بسجل علني عبر أشباه المعرّفات.افتح التجربة

المفاهيم والمعادلات

معادلة آلية لابلاس (Laplace mechanism)

Δf حساسية الاستعلام (1 للعدّ)؛ ε أصغر يعني ضجيجاً أكبر.

M(D)=f(D)+\mathrm{Lap}\!\left(\frac{\Delta f}{\varepsilon}\right),\quad \mathbb{E}|\text{noise}|=\frac{\Delta f}{\varepsilon}

جرّبه في: الخصوصية التفاضلية وقيمة إبسيلون

معادلة تعريف الخصوصية التفاضلية (Definition of ε-differential privacy)

لكل مجموعتي بيانات D وD′ تختلفان في شخص واحد ولكل مجموعة نتائج S.

P[M(D)\in S]\le e^{\varepsilon}\,P[M(D^\prime)\in S]

جرّبه في: الخصوصية التفاضلية وقيمة إبسيلون

معادلة التركيب التسلسلي (Sequential composition)

ميزانية الخصوصية تُستهلك بمجموع قيم ε.

\varepsilon_{\text{total}}=\sum_{i=1}^{k}\varepsilon_i

جرّبه في: ميزانية الخصوصية

الخصوصية في الذكاء الاصطناعي (Privacy)

حماية الأفراد من كشف معلومات عنهم أو استخدامها لغير غرضها. تشمل تقليل البيانات، وتحديد الغرض، والموافقة، وإخفاء الهوية، والحماية من الهجمات على النماذج مثل استنتاج العضوية وإعادة التعريف.

جرّبه في: بيانات شخصية أم مجهولة؟

معادلة تفوق هجوم العضوية (Membership advantage)

0 يعني أن الهجوم لا يتفوق على التخمين.

\mathrm{Adv}=\mathrm{TPR}_{\text{attack}}-\mathrm{FPR}_{\text{attack}}

جرّبه في: هجوم استنتاج العضوية (تعليمي وآمن)

البيانات الشخصية وأشباه المعرّفات (Personal Data, Quasi-identifiers)

البيانات الشخصية هي أي معلومة تتعلق بشخص محدد أو قابل للتحديد. المعرّف المباشر يحدد الشخص وحده (الاسم، رقم الهوية)، وشبه المعرّف لا يحدده وحده لكنه يفعل مع غيره (العمر، الرمز البريدي، الجنس). البيانات الحساسة فئة خاصة (الصحة، البيانات البيومترية).

جرّبه في: بيانات شخصية أم مجهولة؟

إخفاء الهوية k (k-anonymity)

يتحقق حين يتطابق كل سجل مع k − 1 سجلاً آخر على الأقل في أشباه المعرّفات، عبر التعميم (عمر 30–39 بدل 34) أو الحذف. يحمي من الربط بالهوية، لكنه لا يحمي من كشف السمة إذا تشابهت القيمة الحساسة داخل المجموعة.

جرّبه في: إخفاء الهوية بالتعميم (k-anonymity)

الأسماء المستعارة (Pseudonymization)

استبدال المعرّف برمز لا يكشف الشخص إلا بمعلومة إضافية محفوظة منفصلة. التجزئة البسيطة (Hash) دون مفتاح سري قابلة للعكس بالتخمين إذا كانت القيم محدودة، والأفضل HMAC بمفتاح سري. البيانات المستعارة تبقى بيانات شخصية في GDPR.

جرّبه في: الأسماء المستعارة (Pseudonymization)

الخصوصية التفاضلية (Differential Privacy)

ضمان رياضي بأن نتيجة التحليل لا تتغير كثيراً بإضافة شخص واحد أو حذفه، فلا يمكن استنتاج وجوده. تُحقق بإضافة ضجيج معاير، مثل آلية لابلاس بمقياس Δ/ε حيث Δ الحساسية. ε أصغر = خصوصية أقوى وضجيج أكبر. المرجع الأساسي: Dwork وRoth (2014).

جرّبه في: الخصوصية التفاضلية وقيمة إبسيلون

ميزانية الخصوصية (Privacy Budget)

وفق التركيب التسلسلي تتراكم قيم ε لكل الاستعلامات على البيانات نفسها: k استعلامات بقيمة ε لكل منها تستهلك kε. لذلك تُحدد ميزانية كلية وتوزع على الاستعلامات، وكل استعلام إضافي يقلل نصيب الآخرين ويزيد ضجيجهم.

جرّبه في: ميزانية الخصوصية

هجوم استنتاج العضوية (Membership Inference)

محاولة معرفة ما إذا كان سجل معين ضمن بيانات تدريب نموذج. أبسط صورة (Yeom وآخرون 2018) تستخدم عتبة على الخسارة: النموذج المفرط في التعلم يعطي خسارة أقل على أمثلة تدريبه. يقاس الخطر بتفوق الهجوم على التخمين (Advantage = TPR − FPR). التنظيم والخصوصية التفاضلية يقللانه. في المختبر يُجرى على بيانات اصطناعية فقط لأغراض تعليمية.

جرّبه في: هجوم استنتاج العضوية (تعليمي وآمن)

إعادة التعريف (Re-identification)

ربط سجلات «مجهولة» بأشخاص حقيقيين عبر مطابقة أشباه المعرّفات مع مصدر علني. أظهرت Sweeney (2000) أن الرمز البريدي وتاريخ الميلاد والجنس تكفي لتمييز نسبة كبيرة من سكان الولايات المتحدة.

جرّبه في: إعادة التعريف بالربط

أسئلة وأدلة

ما القيمة المناسبة لإبسيلون في الخصوصية التفاضلية؟

لا توجد قيمة عالمية. القيم الصغيرة (أقل من 1) تعطي ضماناً قوياً بضجيج كبير، والقيم الكبيرة تضعف الضمان. يعتمد الاختيار على حساسية البيانات وعدد الاستعلامات (الميزانية الكلية) والدقة المطلوبة، ويجب الإعلان عنه.

جرّبه في: الخصوصية التفاضلية وقيمة إبسيلون

هل حذف الأسماء يجعل البيانات مجهولة الهوية؟

لا. أشباه المعرّفات مجتمعة (العمر، الرمز البريدي، الجنس، التاريخ) قد تميز الأفراد وتسمح بربطهم بمصادر علنية، كما أظهرت Sweeney (2000). جرّب تجربتي إعادة التعريف وk-anonymity.

جرّبه في: إعادة التعريف بالربط

مراجع الوحدة

  1. Regulation (EU) 2016/679 — General Data Protection RegulationEuropean Union (2016) — تشريع
  2. The Algorithmic Foundations of Differential PrivacyC. Dwork, A. Roth (2014) — ورقة علمية
  3. Simple Demographics Often Identify People UniquelyL. Sweeney (2000) — ورقة علمية
  4. Privacy Risk in Machine Learning: Analyzing the Connection to Overfitting (arXiv:1709.01604)S. Yeom, I. Giacomelli, M. Fredrikson, S. Jha (2018) — ورقة علمية
  5. Membership Inference Attacks against Machine Learning Models (arXiv:1610.05820)R. Shokri, M. Stronati, C. Song, V. Shmatikov (2017) — ورقة علمية