الخصوصية وحماية البيانات
Privacy and Data Protection
مبادئ حماية البيانات، ولماذا لا تكفي إزالة الأسماء، وما المخاطر الخاصة بالنماذج.
مبادئ حماية البيانات (وفق GDPR)
- المشروعية والعدالة والشفافية.
- تحديد الغرض.
- تقليل البيانات.
- الدقة.
- تحديد مدة الحفظ.
- السلامة والسرية.
- المساءلة.
لماذا لا تكفي إزالة الأسماء؟
| المفهوم | المعنى |
|---|---|
| إخفاء الهوية بالرموز (pseudonymization) | استبدال المعرّفات برموز؛ لا يزال ممكناً الربط بمفتاح |
| إخفاء الهوية الكامل (anonymization) | يجب ألا يكون التعرف ممكناً بوسائل معقولة |
| أشباه المعرّفات | سمات تميز الشخص عند تركيبها |
بموجب GDPR، البيانات المرمزة تبقى بيانات شخصية.
مخاطر خاصة بالنماذج
- استنتاج العضوية: هل كان سجل هذا المريض في بيانات التدريب؟
- عكس النموذج: استنتاج سمات حساسة من مخرجات النموذج.
- الحفظ والاستخراج: النماذج اللغوية الكبيرة قد تعيد إنتاج نصوص من التدريب حرفياً، كما أظهر Carlini وزملاؤه.
ممارسات أساسية
- تقييم أثر حماية البيانات قبل المشاريع عالية المخاطر.
- أقل البيانات وأقصر مدة حفظ ممكنة.
- ضوابط وصول وتشفير وسجلات.
- عدم إرسال بيانات شخصية لخدمات خارجية دون أساس قانوني واتفاقية مناسبة.
- التقنيات الحافظة للخصوصية (درس لاحق في المستوى المتوسط).
القوانين تختلف بين الدول؛ عند العمل على بيانات حقيقية، استشر مسؤول حماية البيانات أو الجهة القانونية في مؤسستك.
مصطلحات الدرس
- إعادة التعرف Re-identification
- ربط بيانات يُفترض أنها مجهولة الهوية بأشخاص محددين باستخدام سمات أو مصادر أخرى.
- تقليل البيانات Data Minimization
- جمع البيانات الضرورية فقط للغرض المحدد وعدم الاحتفاظ بها أكثر من اللازم.
- هجوم استنتاج العضوية Membership Inference Attack
- هجوم يحاول تحديد ما إذا كان سجل معين قد استُخدم في تدريب نموذج.
الملخص
تقوم قوانين حماية البيانات مثل GDPR على مبادئ: المشروعية والشفافية، وتحديد الغرض، وتقليل البيانات، والدقة، وتحديد مدة الحفظ، والأمن، والمساءلة. إزالة الأسماء لا تكفي لأن تركيب سمات قليلة مثل الرمز البريدي وتاريخ الميلاد والجنس قد يعيد التعرف على الأشخاص. للنماذج مخاطر خاصة: هجمات استنتاج العضوية، واستخراج بيانات التدريب من النماذج اللغوية الكبيرة التي قد تحفظ نصوصاً منها.
أسئلة مراجعة
-
لماذا لا تكفي إزالة الأسماء لإخفاء الهوية؟
لأن تركيبات من سمات شائعة قد تكون فريدة لكل شخص، ويمكن ربطها بقواعد بيانات أخرى.
-
ما الخطر الخاص بالنماذج اللغوية الكبيرة؟
قد تحفظ مقاطع من بيانات التدريب، بما فيها معلومات شخصية، وتعيد إنتاجها عند استدراجها.
المصادر والمراجع
إكمال الدرس
أكملت كل دروس المسار! يمكنك الآن طلب شهادة إكمال المسار.
اطلب الشهادة