مقارنة النماذج
تقارن هذه الصفحة تكوينات محددة (مثل ResNet-50 أو BERT-base)، لا عائلات عامة؛ فكل رقم مرتبط بالتكوين المذكور في رأس عموده. «غير محدد» تعني أن الرقم غير موثق في الأطلس.
| الخاصية | Deep Autoencoder | Variational Autoencoder |
|---|---|---|
| العائلة | المشفرات التلقائية | المشفرات التلقائية |
| سنة الظهور | 2006 | 2013 |
| الباحثون | Geoffrey E. Hinton, Ruslan R. Salakhutdinov | Diederik P. Kingma, Max Welling |
| نوع المعمارية | Symmetric encoder–decoder MLP | Probabilistic encoder–decoder (latent variable model) |
| آلية التعلم | unsupervised | unsupervised |
| التكوين المقارن | المشفّر التلقائي العميق 784-1000-500-250-30 (MNIST) | VAE على MNIST: طبقة مخفية 500 وفضاء كامن J = 20 |
| شكل المدخل | 784 | 784 |
| شكل المخرج | 784 | 784 (+ z ∈ ℝ²⁰) |
| العمق | 8 طبقات خطية | طبقة مخفية واحدة لكل شبكة |
| Parameters (محسوبة) | 2,837,314 ≈2.84M | 815,824 ≈815.82K |
| Parameters (منشورة) | غير محدد | غير محدد |
| MACs | 2,833,000 ≈2.83M مجموع ضرب-جمع الطبقات الثماني لكل صورة. | 814,000 ≈814K لكل صورة ولعينة واحدة L = 1 من z. |
| التعقيد | O(Σ dₗ·dₗ₊₁). | O(D·H + H·J). |
| المهام | تقليل الأبعاد، تعلم التمثيلات، إزالة الضوضاء | توليد الصور، تعلم التمثيلات، تقليل الأبعاد |
| أبرز ميزة | تقليل أبعاد غير خطي أفضل من PCA | فضاء كامن منتظم قابل للاستيفاء والتوليد |
| أبرز قيد | الفضاء الكامن غير منتظم ولا يصلح للتوليد مباشرة | عينات ضبابية مقارنة بـ GAN والانتشار |
| حالة المراجعة | يحتاج مراجعة | يحتاج مراجعة |
| افتراضات الحساب | الأبعاد من الورقة (MNIST). الأوزان تُهيأ بـ RBM مكدسة ثم تُفك (Unrolling) وتصبح مستقلة في الضبط الدقيق؛ الحساب يفترض انحيازاً لكل طبقة. | الورقة استخدمت 500 وحدة مخفية لـ MNIST وجربت عدة أبعاد كامنة؛ J = 20 اختيار من بينها. التنشيط tanh والمفكك Bernoulli. |
العلاقات المسجلة بين النماذج المقارنة
- Deep Autoencoder سابق له Variational Autoencoder — يجعل المشفّر التلقائي احتمالياً.
