الشبكات التوليدية
Generative Networks
المشفّر التلقائي ← VAE ← GAN ← نماذج الانتشار.
أهداف المسار
- التمييز بين الضغط والتوليد.
- اشتقاق ELBO وحيلة إعادة المعلمة.
- فهم اللعبة التنافسية وانهيار الأنماط.
- شرح إضافة الضوضاء وإزالتها في الانتشار وسبب بطء التوليد.
المتطلبات السابقة
- مسار الأساسيات.
- احتمالات: التوزيع الطبيعي والتوقع وتباعد KL.
ترتيب التعلّم
- المشفّر التلقائي Autoencoder
شبكة تضغط الدخل إلى تمثيل كامن صغير (encoder) ثم تعيد بناءه (decoder)، فتتعلم تمثيلاً مضغوطاً دون تسميات.
- المشفّر التلقائي التبايني Variational Autoencoder
نموذج توليدي احتمالي بمتغير كامن: مشفّر يقدّر توزيعاً تقريبياً q(z x) ومفكك يمثل p(x z)، ويُدرّبان معاً بتعظيم الحد الأدنى للأدلة (ELBO) باستخدام خدع…
- المشفّر التلقائي بالتكميم المتجهي Vector Quantized Variational Autoencoder
مشفّر تلقائي يكمّم خرج المشفّر إلى أقرب متجه في قاموس متعلَّم (codebook)، فيصبح التمثيل رموزاً منفصلة، ثم يُتعلَّم توزيع مسبق ذاتي الانحدار على هذه ا…
- الشبكات التوليدية التنافسية Generative Adversarial Networks
إطار توليدي من شبكتين تتنافسان: مولّد يحوّل ضوضاء عشوائية إلى عينات، ومميِّز يحاول التفريق بين العينات الحقيقية والمولَّدة. يتحسن المولّد حتى يصعب عل…
- الشبكات التنافسية المشروطة Conditional GAN
امتداد لـ GAN يُمرَّر فيه شرط y (فئة، نص، صورة) إلى المولّد والمميِّز معاً، فيتعلم النموذج التوزيع الشرطي p(x y) ويمكن التحكم بما يُولَّد.
- نماذج الانتشار Diffusion Models (DDPM)
تفسد البيانات تدريجياً بإضافة ضوضاء غاوسية عبر T خطوة، ثم تتعلم شبكة عكس هذه العملية بالتنبؤ بالضوضاء المضافة، فيُولَّد مثال جديد بإزالة الضوضاء خطوة…
- نماذج الانتشار الكامنة Latent Diffusion Models
تطبق الانتشار في فضاء كامن مضغوط من مشفّر تلقائي مدرّب مسبقاً بدلاً من فضاء البكسلات، مع آلية انتباه متقاطع لإدخال الشروط (نص، تجزئة...)، فتقل الحساب…
- مطابقة التدفق Flow Matching
تتعلم حقل سرعة لمعادلة تفاضلية عادية ينقل توزيع الضوضاء إلى توزيع البيانات، بالانحدار مباشرة على سرعات مسارات احتمالية بسيطة (مثل خطوط مستقيمة بين ضو…
المختبرات
مشاريع مقترحة
- شغّل مثالي GAN والانتشار في الموسوعة على حلقة الغاوسيات الثماني، وقارن عدد الأنماط المغطاة.
- غيّر وزن حد KL في مثال VAE ولاحظ المفاضلة بين جودة الإعادة وانتظام الفضاء الكامن.
- صمم تقييماً لنموذج توليدي للصور الطبية يفصل بين جودة العينات وخطر حفظ بيانات المرضى.
اختبار المسار
في VAE يسمح أخذ العيّنة $z=\mu+\sigma\epsilon$ بمرور التدرج إلى المشفّر.
لماذا؟ هذه حيلة إعادة المعلمة: العشوائية في $\epsilon$ فقط.
ما المقصود بانهيار الأنماط (Mode Collapse) في GAN؟
لماذا؟ يجد المولّد عيّنات تخدع المميّز فيكررها، فيفقد التنوع.
ما الذي يتعلمه نموذج الانتشار DDPM في كل خطوة تدريب؟
لماذا؟ الخسارة المبسطة هي متوسط مربع الفرق بين الضوضاء الحقيقية والمتنبأ بها.
نماذج الانتشار الكامن تطبّق الانتشار في فضاء مضغوط بمشفّر تلقائي لتقليل الكلفة.
لماذا؟ هذه فكرة LDM: الانتشار على تمثيل كامن أصغر من الصورة.
