مقارنة النماذج

تقارن هذه الصفحة تكوينات محددة (مثل ResNet-50 أو BERT-base)، لا عائلات عامة؛ فكل رقم مرتبط بالتكوين المذكور في رأس عموده. «غير محدد» تعني أن الرقم غير موثق في الأطلس.

الخاصيةDeep AutoencoderMultilayer Perceptron
العائلةالمشفرات التلقائيةالشبكات العصبية الأساسية
سنة الظهور20061986
الباحثونGeoffrey E. Hinton, Ruslan R. SalakhutdinovDavid E. Rumelhart, Geoffrey E. Hinton, Ronald J. Williams
نوع المعماريةSymmetric encoder–decoder MLPFully connected feed-forward network
آلية التعلمunsupervisedsupervised
التكوين المقارنالمشفّر التلقائي العميق 784-1000-500-250-30 (MNIST)MLP ‏784-256-128-10 (تهيئة تعليمية على MNIST)
شكل المدخل784784
شكل المخرج78410
العمق8 طبقات خطية3 طبقات خطية قابلة للتعلم
Parameters (محسوبة)2,837,314
≈2.84M
235,146
≈235.15K
Parameters (منشورة)غير محددغير محدد
MACs2,833,000
≈2.83M
مجموع ضرب-جمع الطبقات الثماني لكل صورة.
234,752
≈234.75K
مجموع ضرب-جمع الطبقات الخطية الثلاث لكل عينة.
التعقيدO(Σ dₗ·dₗ₊₁).O(Σ dₗ·dₗ₊₁) لكل عينة
المهامتقليل الأبعاد، تعلم التمثيلات، إزالة الضوضاءتصنيف، انحدار، تقريب الدوال
أبرز ميزةتقليل أبعاد غير خطي أفضل من PCAمقرِّب شامل للدوال نظرياً
أبرز قيدالفضاء الكامن غير منتظم ولا يصلح للتوليد مباشرةلا يستغل البنية المكانية أو الزمنية للبيانات
حالة المراجعةيحتاج مراجعةيحتاج مراجعة
افتراضات الحسابالأبعاد من الورقة (MNIST). الأوزان تُهيأ بـ RBM مكدسة ثم تُفك (Unrolling) وتصبح مستقلة في الضبط الدقيق؛ الحساب يفترض انحيازاً لكل طبقة.التهيئة 784-256-128-10 مثال تعليمي شائع وليست من ورقة Rumelhart وآخرين (1986) التي استخدمت شبكات صغيرة جداً.

العلاقات المسجلة بين النماذج المقارنة

  • Deep Autoencoder متغير منه Multilayer Perceptron — مكون من طبقات كاملة الاتصال.