مقارنة معماريتين

Compare Architectures

اختر معماريتين لعرضهما جنباً إلى جنب: البنية، ومعالجة البيانات، وتدفق المعلومات، والمزايا، والقيود، والاستخدامات، والتطور التاريخي.

المعيارالشبكة العصبية الالتفافيةConvolutional Neural Network (CNN)المحوّلTransformer
المخططمخطط توضيحي: Convolutional Neural Network (CNN)imageconvReLUpoolconv + poolfully connectedclassمخطط توضيحي: Transformertokensembed +positionmulti-headattentionadd & normfeed-forwardadd & normoutput probsresidual
الظهورأعمال لوكن منذ أواخر الثمانينيات، وLeNet-5 عام 19982017
العائلةالشبكات الالتفافيةالانتباه والمحولات
البنية

التفاف → تنشيط → تجميع (تتكرر)، ثم طبقات كاملة الاتصال.

كتل متكررة: انتباه ذاتي متعدد الرؤوس → جمع وتطبيع → تغذية أمامية → جمع وتطبيع. النسخة الأصلية مشفّر ومفكّك.

طريقة معالجة البيانات

كل مرشح يكتشف نمطاً محلياً (حافة، زاوية، ملمس) في كل مواقع الصورة.

تُحوّل الرموز إلى متجهات ويُضاف إليها ترميز الموقع، ثم تمر بالكتل بالتوازي.

تدفق المعلومات

الطبقات الأولى تلتقط ملامح بسيطة والأعمق تلتقط أجزاءً وأشياء.

كل رمز يحسب أوزان انتباه لكل الرموز الأخرى ويجمع قيمها.

المزايا
  • عدد معاملات أقل بفضل مشاركة الأوزان
  • مقاومة للإزاحة
  • تدريب متوازٍ على وحدات GPU/TPU
  • التقاط اعتماديات بعيدة
  • يتوسع جيداً مع البيانات والحجم
القيود
  • مجال الاستقبال محلي ويحتاج عمقاً لالتقاط السياق العام
  • تكلفة تربيعية في طول السياق
  • يحتاج بيانات ضخمة
الاستخدامات

تصنيف الصور، كشف الأجسام، تحليل الصور الطبية.

النماذج اللغوية الكبيرة، الترجمة، الرؤية (ViT)، الكلام.

التطور التاريخيشبكة تستخدم مرشحات محلية مشتركة الأوزان تمسح الصورة، مع طبقات تجميع، ثم طبقات كاملة الاتصال للتصنيف.معمارية تعتمد على الانتباه الذاتي متعدد الرؤوس بدلاً من التكرار، مع ترميز للمواقع وطبقات تغذية أمامية ووصلات متبقية.

المخططات توضيحية ومبسطة. للاطلاع على المصادر افتح صفحة كل معمارية.