مقارنة النماذج

تقارن هذه الصفحة تكوينات محددة (مثل ResNet-50 أو BERT-base)، لا عائلات عامة؛ فكل رقم مرتبط بالتكوين المذكور في رأس عموده. «غير محدد» تعني أن الرقم غير موثق في الأطلس.

الخاصيةVariational AutoencoderDenoising Diffusion Probabilistic Models
العائلةالمشفرات التلقائيةنماذج الانتشار
سنة الظهور20132020
الباحثونDiederik P. Kingma, Max WellingJonathan Ho, Ajay Jain, Pieter Abbeel
نوع المعماريةProbabilistic encoder–decoder (latent variable model)Denoising diffusion model with U-Net
آلية التعلمunsupervisedunsupervised
التكوين المقارنVAE على MNIST: طبقة مخفية 500 وفضاء كامن J = 20DDPM على CIFAR-10 (32×32، T = 1000)
شكل المدخل784x_t: 3×32×32 و t
شكل المخرج784 (+ z ∈ ℝ²⁰)ε̂: 3×32×32
العمقطبقة مخفية واحدة لكل شبكةU-Net: كتلتان متبقيتان لكل دقة
Parameters (محسوبة)815,824
≈815.82K
35,746,307
≈35.75M
Parameters (منشورة)غير محدد35,700,000
≈35.7M
MACs814,000
≈814K
لكل صورة ولعينة واحدة L = 1 من z.
6,221,856,768
≈6.22B
لتمرير واحد (خطوة واحدة)؛ أخذ عينة كاملة يتطلب 1000 تمرير.
التعقيدO(D·H + H·J).T تمرير متتابع عند التوليد (T = 1000).
المهامتوليد الصور، تعلم التمثيلات، تقليل الأبعادتوليد الصور
أبرز ميزةفضاء كامن منتظم قابل للاستيفاء والتوليدجودة صور عالية
أبرز قيدعينات ضبابية مقارنة بـ GAN والانتشارتوليد بطيء جداً (1000 خطوة)
حالة المراجعةيحتاج مراجعةيحتاج مراجعة
افتراضات الحسابالورقة استخدمت 500 وحدة مخفية لـ MNIST وجربت عدة أبعاد كامنة؛ J = 20 اختيار من بينها. التنشيط tanh والمفكك Bernoulli.UNet2DModel من diffusers بتهيئة google/ddpm-cifar10-32 المنقولة من الكود الأصلي.

العلاقات المسجلة بين النماذج المقارنة

  • Variational Autoencoder مرتبط Denoising Diffusion Probabilistic Models — تدريب بحد تبايني.