كتب الذكاء الاصطناعيمشاريع الذكاء الاصطناعيمقالات الذكاء الاصطناعيمعجم الذكاء الاصطناعياسئلة واجوبة في الذكاء الاصطناعيأكاديمية الذكاء الاصطناعي للأطفالأكاديمية الذكاء الاصطناعيمدرسة رياضيات الذكاء الاصطناعيمختبر الذكاء الاصطناعيمختبر الخوارزميات المستوحاة من الطبيعةأطلس نماذج الذكاء الاصطناعيموسوعة تطبيقات الذكاء الاصطناعيمستكشف مجموعات البيانات للذكاء الاصطناعياختبارات الذكاء الاصطناعيالفايب كودينغدليل البرمجة بالذكاء الاصطناعيمولّد مشاريع الذكاء الاصطناعيمرصد الذكاء الاصطناعيدليل أدوات الذكاء الاصطناعي البحث والنشر الأكاديميمكتبة البرومبتات الأكاديميةمستودع الرسائل والأطاريح في الذكاء الاصطناعيحاسبة الترقية العلميةأكاديمية الوكلاء الذكيينمختبر أخلاقيات الذكاء الاصطناعي والعدالةساحة ألعاب الذكاء الاصطناعيعبقري الذكاء الاصطناعيمختبر التنبؤ بالسلاسل الزمنيةمتحف الذكاء الاصطناعيمختبر الرؤية الحاسوبيةموسوعة شبكات التعلم العميق الحديثةمختبر الشبكات العصبية البيانيةمختبر تحليل الصور الطبيةمختبر معالجة اللغة الطبيعيةمختبر الحوسبة الكمّيةخرائط طريق الذكاء الاصطناعيأكاديمية ماتلاب والذكاء الاصطناعيمصمم الشبكات العصبيةأكاديمية الذكاء الاصطناعي بدون برمجةمختبر الذكاء الاصطناعي الكمّي

مفضلتي

المعماريات التي أضفتها إلى المفضلة. تُحفظ في متصفحك فقط (LocalStorage) ولا تُرسل إلى الموقع.

متقدم2024

شبكات كولموغوروف–أرنولد

Kolmogorov–Arnold Networks (KAN)

شبكات تضع دوال تنشيط قابلة للتعلم (منحنيات B-spline) على الحواف بدلاً من أوزان ثابتة، بينما تجمع العقد مدخلاتها بالجمع فقط، استلهاماً من نظرية تمثيل كولموغوروف–أرنولد.

المعماريات العصبية المتقدمة

متوسط2017

شبكات الكبسولات

Capsule Networks (CapsNet)

شبكات تمثل الكيانات بكبسولات (متجهات) يعبّر طولها عن احتمال وجود الكيان واتجاهها عن خصائصه (الوضعية)، وتربط المستويات بخوارزمية توجيه ديناميكي بالاتفاق.

المعماريات العصبية المتقدمة

متوسط2017

الشبكات الكبسولية الهجينة

Hybrid Capsule Networks (CNN-CapsNet)

تصاميم تستخدم عموداً فقرياً التفافياً قوياً (مثل ResNet) لاستخراج السمات، ثم طبقة كبسولات مع توجيه ديناميكي في الأعلى لتمثيل علاقات الجزء–الكل.

المعماريات الهجينة

متوسط1997

الشبكات العصبية النبضية

Spiking Neural Networks (SNN)

شبكات تتواصل عصبوناتها بنبضات ثنائية متقطعة في الزمن، مثل الدماغ. يتراكم الجهد الغشائي ويُطلق نبضة عند تجاوز العتبة، ثم يُعاد ضبطه.

المعماريات العصبية المتقدمة

متقدم2021

الشبكات العصبية السائلة

Liquid Neural Networks (LNN)

شبكات متكررة زمنية مستمرة يتغير فيها ثابت الزمن لكل عصبون حسب الدخل (Liquid Time-Constant)، فتتكيف ديناميكيتها مع البيانات مع عدد عصبونات صغير.

الشبكات الزمنية والمتسلسلةالمعماريات العصبية المتقدمة

متوسط2017

الشبكات الفائقة

Hypernetworks

شبكة صغيرة (الشبكة الفائقة) تولّد أوزان شبكة أخرى (الشبكة الهدف)، فتصبح الأوزان دالة لمدخل شرطي مثل هوية المهمة أو رقم الطبقة.

المعماريات العصبية المتقدمةالمعماريات المتخصصة

متقدم2019

نماذج التوازن العميق

Deep Equilibrium Models (DEQ)

بدلاً من تكديس L طبقة، يبحث النموذج عن نقطة ثابتة لطبقة واحدة z^*=f_θ(z^*,x) كأنها شبكة بعمق لانهائي بأوزان مشتركة، ويحسب التدرّج ضمنياً دون تخزين الخطوات.

المعماريات العصبية المتقدمة

أساسي2004

حوسبة الخزان

Reservoir Computing (ESN / LSM)

شبكة متكررة كبيرة بأوزان عشوائية ثابتة (الخزان) تحوّل الدخل إلى حالات غنية، ولا يُدرَّب إلا طبقة القراءة الخطية، غالباً بانحدار ريدج مغلق الصيغة.

الشبكات الزمنية والمتسلسلةالمعماريات العصبية المتقدمة

مبتدئ1986

الإدراك متعدد الطبقات

Multilayer Perceptron (MLP)

شبكة من طبقات خطية متتالية تفصل بينها دوال تنشيط غير خطية، وهي اللبنة الأولى التي تُبنى عليها معظم المعماريات الحديثة.

الأساسيات

مبتدئ1998

الشبكة العصبية الالتفافية

Convolutional Neural Network (CNN)

شبكة تستخدم مرشّحات التفاف صغيرة مشتركة الأوزان تنزلق على الصورة، فتلتقط الأنماط المحلية مع عدد معاملات أقل بكثير من MLP.

الأساسيات

أساسي2016

الشبكة المتبقية

Residual Network (ResNet)

تضيف وصلات تخطٍّ (skip connections) تجعل كل كتلة تتعلم الفرق المتبقي F(x) بدلاً من التحويل الكامل، فيصبح تدريب شبكات بمئات الطبقات ممكناً.

الأساسيات

مبتدئ2006

المشفّر التلقائي

Autoencoder (AE)

شبكة تضغط الدخل إلى تمثيل كامن صغير (encoder) ثم تعيد بناءه (decoder)، فتتعلم تمثيلاً مضغوطاً دون تسميات.

الأساسياتالشبكات التوليدية

أساسي2015

آلية الانتباه

Attention Mechanism

آلية تسمح للنموذج بأن يحسب أوزاناً لكل عنصر من عناصر الدخل حسب صلته بالخطوة الحالية، ثم يأخذ متوسطاً موزوناً، بدلاً من ضغط الجملة كلها في متجه واحد.

الأساسياتالشبكات الزمنية والمتسلسلة

أساسي2015

يو-نت

U-Net

معمارية تجزئة على شكل حرف U: مسار تقليص يلتقط السياق، ومسار توسيع يستعيد الدقة المكانية، مع وصلات تخطٍّ تنقل التفاصيل الدقيقة بين المستويات المتقابلة.

الأساسياتالمعماريات الهجينة

أساسي2018

يو-نت بالانتباه

Attention U-Net

U-Net مع بوابات انتباه (attention gates) على وصلات التخطي تتعلم إبراز المناطق ذات الصلة وكتم الخلفية قبل دمج السمات.

المعماريات الهجينة

متوسط2014

الشبكات التوليدية التنافسية

Generative Adversarial Networks (GAN)

إطار توليدي من شبكتين تتنافسان: مولّد يحوّل ضوضاء عشوائية إلى عينات، ومميِّز يحاول التفريق بين العينات الحقيقية والمولَّدة. يتحسن المولّد حتى يصعب على المميِّز التمييز.

الشبكات التوليدية

متوسط2014

الشبكات التنافسية المشروطة

Conditional GAN (cGAN)

امتداد لـ GAN يُمرَّر فيه شرط y (فئة، نص، صورة) إلى المولّد والمميِّز معاً، فيتعلم النموذج التوزيع الشرطي p(x y) ويمكن التحكم بما يُولَّد.

الشبكات التوليدية

متوسط2017

سايكل-جان

CycleGAN

ترجمة بين نطاقين من الصور دون أزواج مقترنة، باستخدام مولّدين متعاكسين ومميِّزين، مع خسارة "اتساق الدورة" التي تفرض أن الترجمة ذهاباً وإياباً تعيد الصورة الأصلية.

الشبكات التوليدية

متقدم2019

ستايل-جان

StyleGAN

مولّد GAN يحوّل الضوضاء أولاً عبر شبكة تعيين إلى فضاء كامن وسيط w، ثم يحقن "الأسلوب" في كل طبقة من شبكة تبدأ من دخل ثابت، مع حقن ضوضاء للتفاصيل العشوائية، فيعطي تحكماً ب…

الشبكات التوليدية

متوسط2014

المشفّر التلقائي التبايني

Variational Autoencoder (VAE)

نموذج توليدي احتمالي بمتغير كامن: مشفّر يقدّر توزيعاً تقريبياً q(z x) ومفكك يمثل p(x z)، ويُدرّبان معاً بتعظيم الحد الأدنى للأدلة (ELBO) باستخدام خدعة إعادة المعلمة.

الشبكات التوليدية

متقدم2017

المشفّر التلقائي بالتكميم المتجهي

Vector Quantized Variational Autoencoder (VQ-VAE)

مشفّر تلقائي يكمّم خرج المشفّر إلى أقرب متجه في قاموس متعلَّم (codebook)، فيصبح التمثيل رموزاً منفصلة، ثم يُتعلَّم توزيع مسبق ذاتي الانحدار على هذه الرموز للتوليد.

الشبكات التوليدية

متقدم2020

نماذج الانتشار

Diffusion Models (DDPM)

تفسد البيانات تدريجياً بإضافة ضوضاء غاوسية عبر T خطوة، ثم تتعلم شبكة عكس هذه العملية بالتنبؤ بالضوضاء المضافة، فيُولَّد مثال جديد بإزالة الضوضاء خطوة بخطوة بدءاً من ضوضا…

الشبكات التوليدية

متقدم2022

نماذج الانتشار الكامنة

Latent Diffusion Models (LDM)

تطبق الانتشار في فضاء كامن مضغوط من مشفّر تلقائي مدرّب مسبقاً بدلاً من فضاء البكسلات، مع آلية انتباه متقاطع لإدخال الشروط (نص، تجزئة...)، فتقل الحسابات كثيراً مع الحفاظ…

الشبكات التوليديةالمعماريات الهجينة

بحثي2019

النماذج التوليدية القائمة على الدرجة

Score-Based Generative Models (SGM)

تتعلم شبكة "الدرجة" _x p(x) عند مستويات ضوضاء متعددة، ثم تولّد العينات بديناميكا لانجفان تتبع الدرجة من الضوضاء نحو مناطق الكثافة العالية؛ وتُعمم إلى معادلات تفاضلية عشو…

الشبكات التوليدية

بحثي2023

مطابقة التدفق

Flow Matching (FM)

تتعلم حقل سرعة لمعادلة تفاضلية عادية ينقل توزيع الضوضاء إلى توزيع البيانات، بالانحدار مباشرة على سرعات مسارات احتمالية بسيطة (مثل خطوط مستقيمة بين ضوضاء وبيانات)، دون مح…

الشبكات التوليدية

أساسي2009

الشبكة العصبية البيانية

Graph Neural Network (GNN)

عائلة نماذج تتعلم تمثيلاً لكل عقدة بتبادل الرسائل مع جيرانها عبر الحواف، فتدمج سمات العقدة مع بنية الرسم.

الشبكات العصبية البيانية

أساسي2017

الشبكة الالتفافية البيانية

Graph Convolutional Network (GCN)

طبقة بيانية بسيطة تأخذ متوسطاً مطبّعاً لتمثيلات العقدة وجيرانها ثم تطبق تحويلاً خطياً مشتركاً، وهي تقريب من الدرجة الأولى للالتفاف الطيفي.

الشبكات العصبية البيانية

متوسط2018

شبكة الانتباه البيانية

Graph Attention Network (GAT)

تستبدل الأوزان الثابتة في GCN بمعاملات انتباه متعلمة لكل حافة، فتحدد كل عقدة مقدار أهمية كل جار، مع رؤوس انتباه متعددة.

الشبكات العصبية البيانية

أساسي2017

جراف سيج

GraphSAGE

إطار استقرائي يتعلم دوال تجميع لجوار عيّني من الجيران، فيستطيع حساب تمثيلات لعقد جديدة لم ترها الشبكة أثناء التدريب.

الشبكات العصبية البيانية

متوسط2019

شبكة تماثل الرسوم

Graph Isomorphism Network (GIN)

GNN مصممة لتبلغ القدرة التمييزية لاختبار Weisfeiler–Lehman (1-WL)، باستخدام تجميع بالمجموع وMLP في التحديث.

الشبكات العصبية البيانية

متوسط2018

الشبكة الالتفافية البيانية العلائقية

Relational Graph Convolutional Network (R-GCN)

امتداد لـ GCN للرسوم متعددة العلاقات (مثل الرسوم المعرفية) يستخدم وزناً مختلفاً لكل نوع علاقة، مع تحليل الأوزان لتقليل المعاملات.

الشبكات العصبية البيانية

متقدم2020

محوّل الرسوم البيانية

Graph Transformer (GT)

تطبيق الانتباه الذاتي على عقد الرسم مع ترميزات موضعية أو بنيوية (مثل متجهات لابلاسيان الذاتية) كي يعرف النموذج بنية الرسم، فيتجاوز قيود الجوار المحلي.

الشبكات العصبية البيانيةالمعماريات المتخصصةمعماريات المحولات

متقدم2020

الشبكات البيانية الزمنية

Temporal Graph Networks (TGN)

إطار لتعلم تمثيلات على رسوم ديناميكية تمثَّل كتيار من الأحداث المؤقتة، باستخدام ذاكرة لكل عقدة تُحدَّث بالأحداث ووحدة تضمين تجمع الجيران الزمنيين.

الشبكات الزمنية والمتسلسلةالشبكات العصبية البيانية

متوسط2021

الشبكات الهجينة CNN–Transformer

CNN-Transformer Hybrids

تصاميم تجمع الالتفاف (انحياز محلي، كفاءة، تعميم ببيانات أقل) مع الانتباه (سياق عام، سعة كبيرة): غالباً جذع أو مراحل التفافية أولاً ثم طبقات محوّل على خريطة السمات.

المعماريات الهجينةمعماريات المحولات

أساسي2015

الشبكات الهجينة CNN–LSTM

CNN-LSTM

CNN تستخرج تمثيلاً من كل عنصر مكاني (إطار فيديو، نافذة إشارة، صورة)، ثم LSTM تنمذج تتابع هذه التمثيلات عبر الزمن؛ وفي البديل ConvLSTM يُدمج الالتفاف داخل بوابات LSTM نفس…

الشبكات الزمنية والمتسلسلةالمعماريات الهجينة

أساسي2014

الشبكات الهجينة CNN–GRU

CNN-GRU

التفافات أحادية البعد تلتقط أنماطاً محلية في الإشارة وتقلل طولها، ثم GRU (غالباً ثنائية الاتجاه) تنمذج العلاقات عبر الزمن بعدد معاملات أقل من LSTM.

الشبكات الزمنية والمتسلسلةالمعماريات الهجينة

متوسط2021

يو-نت مع المحوّلات

U-Net + Transformer (U-Net+Transformer)

عائلة نماذج تجزئة تحتفظ بشكل U-Net (مشفّر–مفكك بوصلات تخطٍّ) وتُدخل المحوّل في موضع ما: عنق الزجاجة، أو المشفّر كاملاً، أو كل المعمارية (نموذج محوّل خالص على شكل U).

المعماريات الهجينةمعماريات المحولات

متوسط2021

ترانس-يو-نت

TransUNet

نموذج تجزئة طبية يستخدم مشفّراً هجيناً: CNN (ResNet-50) تستخرج خريطة سمات، تُقسم إلى رقع وتُمرر عبر ViT، ثم مفكك متتالٍ لرفع الدقة (CUP) يدمج سمات CNN عالية الدقة عبر وص…

المعماريات الهجينةمعماريات المحولات

متقدم2022

يو-نيتر

UNETR

نموذج تجزئة ثلاثي الأبعاد مشفّره ViT خالص على رقع حجمية 16³، تُؤخذ تمثيلات من طبقاته (3، 6، 9، 12) وتُعاد تشكيلها وترفع بالالتفاف المعكوس لتغذي مفككاً التفافياً عبر وصلا…

المعماريات الهجينةمعماريات المحولات

متقدم2022

سوين يو-نيتر

Swin UNETR (Swin-UNETR)

نموذج تجزئة حجمي مشفّره Swin Transformer هرمي (نوافذ محلية مُزاحة ودمج رقع) يعطي سمات بخمسة مقاييس، تتصل بمفكك التفافي عبر وصلات تخطٍّ، وقد طُوّر لتجزئة أورام الدماغ في…

المعماريات الهجينةمعماريات المحولات

أساسي2018

الشبكات الالتفافية المعززة بالانتباه

Attention-based CNN (Attention CNN)

شبكات التفافية تضيف وحدات انتباه خفيفة تعيد وزن القنوات (أي السمات أهم) أو المواقع (أين ينظر النموذج)، بتكلفة حسابية صغيرة جداً.

المعماريات الهجينة

أساسي2015

الشبكات العصبية متعددة الفروع

Multi-Branch Neural Networks

معماريات تعالج الدخل نفسه أو مدخلات مختلفة عبر فروع متوازية (أحجام نوى مختلفة، أو وسائط مختلفة، أو مقاييس مختلفة) ثم تدمج النتائج بالضم أو الجمع.

المعماريات الهجينة

متوسط2019

الشبكات العصبية المستندة إلى الفيزياء

Physics-Informed Neural Networks (PINN)

شبكة تقرّب حل معادلة تفاضلية جزئية u_θ(x,t)، وتُدرَّب بخسارة تجمع باقي المعادلة (محسوباً بالاشتقاق التلقائي) مع الشروط الابتدائية والحدية وأي قياسات متاحة، فتحل مسائل أم…

الشبكات العصبية المستندة إلى الفيزياء

متقدم2021

شبكة المؤثرات العميقة

Deep Operator Network (DeepONet)

شبكة تتعلم مؤثراً يحوّل دالة إلى دالة (مثل: الشرط → الحل)، عبر شبكة "فرع" ترمّز دالة الدخل من قيمها عند حساسات ثابتة، وشبكة "جذع" ترمّز موضع التقييم، ويُجمع الناتجان بضر…

الشبكات العصبية المستندة إلى الفيزياء

متقدم2021

المؤثر العصبي الفورييهي

Fourier Neural Operator (FNO)

مؤثر عصبي يطبق في كل طبقة "التفافاً طيفياً": تحويل فورييه للسمات، ثم ضرب عدد محدود من الترددات المنخفضة بأوزان مركبة متعلَّمة، ثم التحويل العكسي، مع مسار خطي محلي، فيتعل…

الشبكات العصبية المستندة إلى الفيزياء

بحثي2023

المؤثرات العصبية

Neural Operators (NO)

عائلة معماريات تتعلم مؤثرات بين فضاءات دوال لا بين متجهات بأبعاد ثابتة، بتكديس طبقات خطية نقطية مع مؤثرات تكاملية بنوى متعلَّمة، فتكون مستقلة عن التقطيع (discretization-…

الشبكات العصبية المستندة إلى الفيزياء

متقدم2021

التعلم العميق المستنير بالفيزياء

Physics-Informed Deep Learning (PIML)

منهج عام لإدخال المعرفة الفيزيائية في التعلم العميق بثلاث طرق: عبر البيانات (انحياز رصدي)، أو عبر المعمارية (انحياز استقرائي مثل الشبكات الهاملتونية والتكافؤ)، أو عبر دا…

الشبكات العصبية المستندة إلى الفيزياء

متقدم2020

معماريات تعلم الآلة العلمي

Scientific Machine Learning Architectures (SciML)

منظومة معماريات تمزج النماذج الآلية (المعادلات المعروفة) مع شبكات عصبية تتعلم الأجزاء المجهولة، وتُدرَّب عبر محلّلات تفاضلية قابلة للاشتقاق. أبرز أمثلتها المعادلات التفا…

الشبكات العصبية المستندة إلى الفيزياءالمعماريات الهجينة

مبتدئ1990

الشبكة العصبية المتكررة

Recurrent Neural Network (RNN)

شبكة تعالج التسلسل عنصراً بعنصر وتحمل حالة مخفية تنقل المعلومات من الخطوات السابقة، باستخدام الأوزان نفسها في كل خطوة.

الشبكات الزمنية والمتسلسلة

أساسي1997

الذاكرة الطويلة قصيرة المدى

Long Short-Term Memory (LSTM)

شبكة متكررة بخلية ذاكرة وبوابات (نسيان، إدخال، إخراج) تتحكم بما يُحفظ وما يُمحى، فتتعلم اعتماديات بعيدة أفضل بكثير من RNN البسيطة.

الشبكات الزمنية والمتسلسلة

أساسي2014

الوحدة المتكررة ذات البوابات

Gated Recurrent Unit (GRU)

تبسيط لـ LSTM ببوابتين فقط (تحديث وإعادة ضبط) ودون حالة خلية منفصلة، بأداء مقارب في كثير من المهام ومعاملات أقل.

الشبكات الزمنية والمتسلسلة

أساسي1997

LSTM ثنائية الاتجاه

Bidirectional LSTM (BiLSTM)

طبقتان متكررتان تقرأ إحداهما التسلسل من البداية والأخرى من النهاية، وتُربط حالتاهما فيرى كل موضع سياقه السابق واللاحق.

الشبكات الزمنية والمتسلسلة

أساسي2018

الشبكات الالتفافية الزمنية

Temporal Convolutional Network (TCN)

شبكة التفافية أحادية البعد سببية (لا ترى المستقبل) بالتفاف متوسع (dilated) ووصلات متبقية، تعالج التسلسلات بالتوازي وتغطي سياقاً طويلاً.

الشبكات الزمنية والمتسلسلة

متقدم2018

المعادلات التفاضلية العصبية

Neural Ordinary Differential Equations (Neural ODE)

تُعرّف الحالة المخفية بمعادلة تفاضلية مستمرة تُعطى مشتقتها بشبكة عصبية، ويُحسب الخرج بحلّال عددي، فتصبح الشبكة "مستمرة العمق".

الشبكات الزمنية والمتسلسلةالشبكات العصبية المستندة إلى الفيزياء

متقدم2022

نماذج فضاء الحالة

Structured State Space Models (SSM / S4)

طبقات تسلسلية مبنية على نموذج فضاء الحالة الخطي المستمر، تُقطَّع زمنياً ويمكن حسابها كتكرار سريع في الاستدلال أو كالتفاف طويل متوازٍ في التدريب، مع تهيئة خاصة (HiPPO) لح…

الشبكات الزمنية والمتسلسلة

متقدم2023

مامبا: نماذج فضاء الحالة الانتقائية

Mamba (Selective State Space Models)

SSM تكون فيها المعاملات B وC والخطوة Δ دوال للدخل (انتقائية)، فتقرر الطبقة ما تتذكره وما تتجاهله حسب المحتوى، مع خوارزمية مسح متوازٍ واعية بالعتاد تحافظ على تكلفة خطية ف…

الشبكات الزمنية والمتسلسلة

متوسط1991

خليط الخبراء

Mixture of Experts (MoE)

عدة شبكات "خبيرة" وشبكة بوابة تقرر، لكل دخل، وزن كل خبير في الخرج. يتعلم الخبراء التخصص في مناطق مختلفة من فضاء الدخل، فيُقسَّم العمل تلقائياً.

المعماريات المتخصصة

متقدم2017

خليط الخبراء المتناثر

Sparse Mixture of Experts (Sparse MoE)

طبقة خبراء يُفعّل فيها لكل رمز عدد صغير فقط من الخبراء (top-k)، فيزداد عدد معاملات النموذج كثيراً دون زيادة مماثلة في الحساب لكل رمز، مع آليات لموازنة الحمل بين الخبراء.

المعماريات المتخصصة

متقدم2016

الشبكات العصبية المعيارية

Modular Neural Networks (Modular NN)

شبكات تُبنى من وحدات قابلة لإعادة الاستخدام (مثل Find وAnd وCount) تُركّب ديناميكياً حسب بنية المهمة أو السؤال، فتنقل المهارات إلى تراكيب جديدة لم تُرَ في التدريب.

المعماريات المتخصصة

متقدم2017

البحث عن المعماريات العصبية

Neural Architecture Search (NAS)

أتمتة تصميم المعماريات: فضاء بحث يحدد المعماريات الممكنة، واستراتيجية بحث (تعلم معزز، تطور، بايزي، تدرج) تقترح مرشحين، واستراتيجية لتقدير أدائهم.

المعماريات المتخصصة

بحثي2019

البحث المعماري القابل للاشتقاق

Differentiable Architecture Search (DARTS)

يجعل البحث المعماري مسألة تحسين مستمرة: كل حافة في الخلية تحسب خليطاً موزوناً من كل العمليات الممكنة بأوزان Softmax لمعاملات معمارية α، فتُحسّن α بالتدرج على بيانات التح…

المعماريات المتخصصة

بحثي2016

الشبكات العصبية المتكافئة

Equivariant Neural Networks (ENN)

شبكات تُبنى بحيث يتحول خرجها بطريقة محددة عندما يتحول الدخل بتناظر ما (دوران، إزاحة، انعكاس، تبديل)، فلا تحتاج إلى تعلم هذا التناظر من البيانات، وتعمم إلى وضعيات لم ترها.

المعماريات المتخصصة

متقدم2006

النماذج القائمة على الطاقة

Energy-Based Models (EBM)

نماذج تتعلم دالة طاقة عددية E_θ(x) تكون منخفضة للتكوينات المحتملة ومرتفعة لغيرها، وتعرّف الكثافة ضمنياً p(x) e^-E(x) دون حساب ثابت التطبيع، مع توليد العينات بديناميكا لا…

الشبكات التوليديةالمعماريات المتخصصة

متقدم2020

المعماريات العصبية المعززة بالاسترجاع

Retrieval-Augmented Neural Architectures (RAG)

نماذج تجمع ذاكرة غير معلمية (فهرس مستندات) مع نموذج معلمي: مسترجع يجد مقاطع ذات صلة بالسؤال، ومولّد يستخدمها لإنتاج الجواب، فيمكن تحديث المعرفة بتحديث الفهرس دون إعادة ا…

المعماريات المتخصصةمعماريات المحولات

أساسي2017

المحوّل

Transformer

معمارية تعتمد بالكامل على الانتباه الذاتي متعدد الرؤوس بدلاً من التكرار أو الالتفاف، فتعالج كل مواضع التسلسل بالتوازي وتربط أي موضعين مباشرة بخطوة واحدة.

معماريات المحولات

متوسط2021

محوّل الرؤية

Vision Transformer (ViT)

يطبق مشفّر Transformer القياسي مباشرة على الصور بعد تقسيمها إلى رقع ثابتة الحجم تُعامل كرموز، مع رمز تصنيف خاص وترميز موضعي متعلَّم.

معماريات المحولات

متقدم2021

محوّل سوين

Swin Transformer

محوّل رؤية هرمي يحسب الانتباه داخل نوافذ محلية غير متداخلة، ويزيح النوافذ في الطبقات المتعاقبة لتبادل المعلومات بينها، مع دمج الرقع لبناء خرائط سمات متعددة المقاييس بتكل…

معماريات المحولات

متوسط2021

محوّلات الصور كفؤة البيانات

Data-efficient Image Transformers (DeiT)

طريقة لتدريب ViT على ImageNet-1k وحدها بزيادات بيانات وتنظيم قويين، مع "رمز تقطير" إضافي يتعلم من تنبؤات نموذج معلّم (غالباً CNN)، دون حاجة لمجموعات تدريب مسبق ضخمة.

معماريات المحولات

متقدم2021

بيرسيفر

Perceiver

معمارية عامة تقرأ دخلاً ضخماً من أي نوع عبر انتباه متقاطع إلى مصفوفة كامنة صغيرة ثابتة الحجم، ثم تعالج الكوامن بانتباه ذاتي، فتفصل عمق الشبكة عن حجم الدخل.

معماريات المحولات

أساسي2017

الانتباه المتقاطع

Cross-Attention (Cross-Attn)

انتباه تأتي فيه الاستعلامات من تسلسل، بينما تأتي المفاتيح والقيم من تسلسل أو وسيط آخر، فيقرأ كل عنصر في الأول ما يحتاجه من الثاني.

معماريات المحولات

متوسط2019

المحوّلات متعددة الوسائط

Multimodal Transformers (MM-Transformer)

محوّلات تعالج أكثر من وسيط (صورة، نص، صوت...) إما في تسلسل واحد مع تضمين نوع الوسيط (أحادي التدفق)، أو في تدفقين يتبادلان المعلومات بانتباه مشترك (ثنائي التدفق).

معماريات المحولات

متقدم2021

نماذج الرؤية واللغة

Vision-Language Models (VLM)

نماذج تربط مشفّراً بصرياً بنموذج لغوي: إما بمحاذاة تباينية في فضاء مشترك (CLIP) أو بتحويل السمات البصرية إلى رموز يقرأها نموذج لغوي كبير فيولد نصاً عن الصورة (Flamingo،…

معماريات المحولات