كتب الذكاء الاصطناعيمشاريع الذكاء الاصطناعيمقالات الذكاء الاصطناعيمعجم الذكاء الاصطناعياسئلة واجوبة في الذكاء الاصطناعيأكاديمية الذكاء الاصطناعي للأطفالأكاديمية الذكاء الاصطناعيمدرسة رياضيات الذكاء الاصطناعيمختبر الذكاء الاصطناعيمختبر الخوارزميات المستوحاة من الطبيعةأطلس نماذج الذكاء الاصطناعيموسوعة تطبيقات الذكاء الاصطناعيمستكشف مجموعات البيانات للذكاء الاصطناعياختبارات الذكاء الاصطناعيالفايب كودينغدليل البرمجة بالذكاء الاصطناعيمولّد مشاريع الذكاء الاصطناعيمرصد الذكاء الاصطناعيدليل أدوات الذكاء الاصطناعي البحث والنشر الأكاديميمكتبة البرومبتات الأكاديميةمستودع الرسائل والأطاريح في الذكاء الاصطناعيحاسبة الترقية العلميةأكاديمية الوكلاء الذكيينمختبر أخلاقيات الذكاء الاصطناعي والعدالةساحة ألعاب الذكاء الاصطناعيمختبر التنبؤ بالسلاسل الزمنيةمتحف الذكاء الاصطناعيمختبر الرؤية الحاسوبيةمختبر الشبكات العصبية البيانيةمختبر معالجة اللغة الطبيعيةمختبر الحوسبة الكمّيةخرائط طريق الذكاء الاصطناعي

أخلاقيات الذكاء الاصطناعي وحوكمته مبتدئ · Beginner 12 دقيقة

الخصوصية وحماية البيانات

Privacy and Data Protection

مبادئ حماية البيانات، ولماذا لا تكفي إزالة الأسماء، وما المخاطر الخاصة بالنماذج.

تقدّمك في المسار0%

مبادئ حماية البيانات (وفق GDPR)

  1. المشروعية والعدالة والشفافية.
  2. تحديد الغرض.
  3. تقليل البيانات.
  4. الدقة.
  5. تحديد مدة الحفظ.
  6. السلامة والسرية.
  7. المساءلة.

لماذا لا تكفي إزالة الأسماء؟

المفهومالمعنى
إخفاء الهوية بالرموز (pseudonymization)استبدال المعرّفات برموز؛ لا يزال ممكناً الربط بمفتاح
إخفاء الهوية الكامل (anonymization)يجب ألا يكون التعرف ممكناً بوسائل معقولة
أشباه المعرّفاتسمات تميز الشخص عند تركيبها

بموجب GDPR، البيانات المرمزة تبقى بيانات شخصية.

مخاطر خاصة بالنماذج

  • استنتاج العضوية: هل كان سجل هذا المريض في بيانات التدريب؟
  • عكس النموذج: استنتاج سمات حساسة من مخرجات النموذج.
  • الحفظ والاستخراج: النماذج اللغوية الكبيرة قد تعيد إنتاج نصوص من التدريب حرفياً، كما أظهر Carlini وزملاؤه.

ممارسات أساسية

  • تقييم أثر حماية البيانات قبل المشاريع عالية المخاطر.
  • أقل البيانات وأقصر مدة حفظ ممكنة.
  • ضوابط وصول وتشفير وسجلات.
  • عدم إرسال بيانات شخصية لخدمات خارجية دون أساس قانوني واتفاقية مناسبة.
  • التقنيات الحافظة للخصوصية (درس لاحق في المستوى المتوسط).

القوانين تختلف بين الدول؛ عند العمل على بيانات حقيقية، استشر مسؤول حماية البيانات أو الجهة القانونية في مؤسستك.

مصطلحات الدرس

إعادة التعرف Re-identification
ربط بيانات يُفترض أنها مجهولة الهوية بأشخاص محددين باستخدام سمات أو مصادر أخرى.
تقليل البيانات Data Minimization
جمع البيانات الضرورية فقط للغرض المحدد وعدم الاحتفاظ بها أكثر من اللازم.
هجوم استنتاج العضوية Membership Inference Attack
هجوم يحاول تحديد ما إذا كان سجل معين قد استُخدم في تدريب نموذج.

الملخص

تقوم قوانين حماية البيانات مثل GDPR على مبادئ: المشروعية والشفافية، وتحديد الغرض، وتقليل البيانات، والدقة، وتحديد مدة الحفظ، والأمن، والمساءلة. إزالة الأسماء لا تكفي لأن تركيب سمات قليلة مثل الرمز البريدي وتاريخ الميلاد والجنس قد يعيد التعرف على الأشخاص. للنماذج مخاطر خاصة: هجمات استنتاج العضوية، واستخراج بيانات التدريب من النماذج اللغوية الكبيرة التي قد تحفظ نصوصاً منها.

أسئلة مراجعة

  1. لماذا لا تكفي إزالة الأسماء لإخفاء الهوية؟

    لأن تركيبات من سمات شائعة قد تكون فريدة لكل شخص، ويمكن ربطها بقواعد بيانات أخرى.

  2. ما الخطر الخاص بالنماذج اللغوية الكبيرة؟

    قد تحفظ مقاطع من بيانات التدريب، بما فيها معلومات شخصية، وتعيد إنتاجها عند استدراجها.

المصادر والمراجع

  1. Regulation (EU) 2016/679 — General Data Protection Regulation
  2. Sweeney (2000) — Simple Demographics Often Identify People Uniquely
  3. Carlini et al. (2021) — Extracting Training Data from Large Language Models
  4. Shokri et al. (2017) — Membership Inference Attacks against ML Models

إكمال الدرس