الشبكات العصبية متعددة الفروع (Multi-Branch)
Multi-Branch Neural Networks
معماريات تعالج الدخل نفسه أو مدخلات مختلفة عبر فروع متوازية (أحجام نوى مختلفة، أو وسائط مختلفة، أو مقاييس مختلفة) ثم تدمج النتائج بالضم أو الجمع.
نظرة عامة
| الاسم | الشبكات العصبية متعددة الفروع – Multi-Branch Neural Networks |
|---|---|
| سنة الظهور | 2015 |
| الباحثون | مثال مرجعي: Christian Szegedy وزملاؤه (Inception/GoogLeNet)؛ وأيضاً Simonyan وZisserman (الشبكات ثنائية التدفق 2014) |
| الجهة | |
| الورقة الأصلية | Going deeper with convolutions DOI arXiv |
| نوع البيانات | صور، تسلسلات وسلاسل زمنية، بيانات جدولية |
| المجالات | الرؤية الحاسوبية، الصوت والكلام، تحليل الصور الطبية |
| الكلفة الحسابية | مجموع تكلفة الفروع. |
| حجم البيانات | صغيرة إلى كبيرة. |
المشكلة التي تحلها
اختيار حجم نواة أو تمثيل واحد قد لا يناسب كل الأنماط؛ والبيانات متعددة المصادر تحتاج معالجة متخصصة لكل مصدر قبل الدمج.
الخلفية والتطور
ما قبلها: الشبكة العصبية الالتفافية
الفكرة الأساسية
في Inception يرى كل فرع الدخل بمقياس مختلف، ويسبق الالتفافات الكبيرة التفاف 1×1 لتقليل القنوات فتبقى التكلفة معقولة. في الشبكات متعددة المدخلات يتخصص كل فرع بوسيط (صورة، بيانات سريرية) ثم تُدمج السمات.
المخطط التفاعلي
مخطط توضيحي مبسّط بأبعاد مثال صغير، وليس رسماً مطابقاً لكل تفاصيل التنفيذ الأصلي. اضغط أي طبقة لترى وظيفتها وأبعادها والعملية الرياضية.
اختر طبقة من المخطط.
المكونات
| المكوّن | الوظيفة |
|---|---|
| Parallel branches | نوى أو وسائط مختلفة |
| 1×1 bottleneck | تقليل القنوات |
| Fusion | ضم أو جمع |
| Optional residual | كما في ResNeXt |
المعادلات
1. الدمج بالضم
| $f_k$ | الفرع k |
| $\|$ | ضم القنوات |
2. توفير التفاف 1×1
| $C_r$ | قنوات التقليل |
آلية العمل خطوة بخطوة
- مرّر الدخل إلى الفروع.
- طبّق معالجة كل فرع.
- ادمج.
- تابع الكتل التالية أو الرأس.
المزايا والقيود
المزايا
- سمات متعددة المقاييس.
- دمج طبيعي للوسائط.
- كفاءة مع اختناقات 1×1.
القيود
- تصميم يدوي معقد.
- الفروع قد تختلف في سرعة التعلم.
- ذاكرة أكبر.
متى تُستخدم؟ ومتى لا؟
تناسب
- أنماط بمقاييس متعددة.
- بيانات متعددة الوسائط.
لا تناسب
- مهام بسيطة تكفيها سلسلة طبقات.
التطبيقات
| المجال | الاستخدام |
|---|---|
| الرؤية الحاسوبية | التصنيف (Inception). |
| تحليل الصور الطبية | دمج الصورة مع البيانات السريرية. |
| الصوت والكلام | دمج تمثيلات طيفية وزمنية. |
كود PyTorch
كود تعليمي مبسّط يعمل على بيانات اصطناعية صغيرة، يغطي: الاستيراد، وتعريف النموذج، والبيانات، والتمرير الأمامي، والخسارة، والمُحسِّن، وحلقة التدريب، والتقييم، والاستدلال. ليس التنفيذ الكامل للبحث الأصلي.
# Inception متعدد الفروع: أنماط بمقاييس مختلفة
# مثال تعليمي مبسّط بـ PyTorch (ليس التنفيذ الأصلي الكامل للبحث): بيانات اصطناعية صغيرة،
# يعمل على المعالج المركزي (CPU) خلال ثوانٍ. الأرقام التي يطبعها تخص هذا المثال فقط.
# 1) استيراد المكتبات
import torch
import torch.nn as nn
import torch.nn.functional as F
torch.manual_seed(0)
# 2) تعريف النموذج
class InceptionBlock(nn.Module):
"""كتلة متعددة الفروع: التفافات بأحجام مختلفة على الدخل نفسه بالتوازي، ثم ضم القنوات."""
def __init__(self, ci, c1=8, c3=8, c5=8, cp=8):
super().__init__()
self.b1 = nn.Sequential(nn.Conv2d(ci, c1, 1), nn.ReLU())
self.b3 = nn.Sequential(nn.Conv2d(ci, 8, 1), nn.ReLU(), nn.Conv2d(8, c3, 3, padding=1), nn.ReLU()) # 1×1 لتقليل القنوات أولاً
self.b5 = nn.Sequential(nn.Conv2d(ci, 8, 1), nn.ReLU(), nn.Conv2d(8, c5, 5, padding=2), nn.ReLU())
self.bp = nn.Sequential(nn.MaxPool2d(3, 1, 1), nn.Conv2d(ci, cp, 1), nn.ReLU())
def forward(self, x):
return torch.cat([self.b1(x), self.b3(x), self.b5(x), self.bp(x)], 1)
class MultiBranchNet(nn.Module):
def __init__(self, n_classes=3):
super().__init__()
self.stem = nn.Sequential(nn.Conv2d(1, 16, 3, padding=1), nn.ReLU())
self.inc1 = InceptionBlock(16) # → 32 قناة
self.inc2 = nn.Sequential(nn.MaxPool2d(2), InceptionBlock(32))
self.head = nn.Linear(32, n_classes)
def forward(self, x):
return self.head(self.inc2(self.inc1(self.stem(x))).mean((2, 3)))
# 3) إعداد البيانات
# فئات تختلف في المقياس: نقطة صغيرة (0)، بقعة متوسطة (1)، حلقة كبيرة (2) — الفروع بأحجام نوى مختلفة تفيد هنا
def make(n, S=16):
yy, xx = torch.meshgrid(torch.arange(S).float(), torch.arange(S).float(), indexing='ij')
y = torch.randint(0, 3, (n,)); X = torch.randn(n, 1, S, S) * 0.3
for i in range(n):
cx, cy = torch.randint(5, 11, (2,)).float()
d = ((xx - cx) ** 2 + (yy - cy) ** 2).sqrt()
if y[i] == 0: X[i, 0] += 1.5 * (d < 1.2)
elif y[i] == 1: X[i, 0] += 1.5 * (d < 2.8)
else: X[i, 0] += 1.5 * ((d > 3.5) & (d < 4.8))
return X, y
X_train, y_train = make(900)
X_test, y_test = make(300)
model = MultiBranchNet()
# 4) دالة الخسارة والمحسّن
loss_fn = nn.CrossEntropyLoss()
opt = torch.optim.Adam(model.parameters(), lr=5e-3)
# 5) حلقة التدريب (Training Loop) مع Forward Pass
EPOCHS, BATCH = 10, 32
for epoch in range(EPOCHS):
model.train()
perm = torch.randperm(len(X_train))
total = 0.0
for i in range(0, len(X_train), BATCH):
idx = perm[i:i + BATCH]
xb, yb = X_train[idx], y_train[idx]
out = model(xb) # Forward Pass
loss = loss_fn(out, yb)
opt.zero_grad()
loss.backward() # Backpropagation
opt.step()
total += loss.item() * len(idx)
if epoch % max(1, EPOCHS // 4) == 0 or epoch == EPOCHS - 1:
print(f"epoch {epoch:3d} loss={total / len(X_train):.4f}")
# 6) التقييم (Evaluation)
model.eval()
with torch.no_grad():
xb = X_test
out = model(xb)
acc = (out.argmax(dim=-1) == y_test).float().mean().item()
print(f"test accuracy = {acc:.3f}")
# 7) الاستدلال (Inference) على عيّنة جديدة
with torch.no_grad():
xb = X_test[:1]
out = model(xb)
print("predicted class:", out.argmax(dim=-1).item())
نُفّذ هذا الكود بتاريخ 2026-11-20 في 6.9 ثانية (PyTorch (CPU), Python 3 – local build machine).
من مخرجاته:
test accuracy = 1.000
عدد المعاملات القابلة للتدريب في المثال: model = 6٬243.
هذه النتائج لبيانات اصطناعية صغيرة وعدد حقب قليل، وتُثبت أن الكود يعمل فقط؛ لا تقارنها بالنتائج المنشورة.
جرّب وتعمّق
معماريات مرتبطة
الشبكة العصبية الالتفافية
Convolutional Neural Network (CNN)
شبكة تستخدم مرشّحات التفاف صغيرة مشتركة الأوزان تنزلق على الصورة، فتلتقط الأنماط المحلية مع عدد معاملات أقل بكثير من MLP.
الشبكة المتبقية
Residual Network (ResNet)
تضيف وصلات تخطٍّ (skip connections) تجعل كل كتلة تتعلم الفرق المتبقي F(x) بدلاً من التحويل الكامل، فيصبح تدريب شبكات بمئات الطبقات ممكناً.
المحوّلات متعددة الوسائط
Multimodal Transformers (MM-Transformer)
محوّلات تعالج أكثر من وسيط (صورة، نص، صوت...) إما في تسلسل واحد مع تضمين نوع الوسيط (أحادي التدفق)، أو في تدفقين يتبادلان المعلومات بانتباه مشترك (ثنائي التدفق).
خليط الخبراء
Mixture of Experts (MoE)
عدة شبكات "خبيرة" وشبكة بوابة تقرر، لكل دخل، وزن كل خبير في الخرج. يتعلم الخبراء التخصص في مناطق مختلفة من فضاء الدخل، فيُقسَّم العمل تلقائياً.
لا توجد نتائج مطابقة للمرشحات.
أفكار بحثية
- شبكة متعددة الفروع تدمج صور الماموغرام مع البيانات السريرية مع تحليل مساهمة كل فرع.
اقتراحات للانطلاق وليست فجوات بحثية مؤكدة؛ راجع الأدبيات الحديثة قبل اعتمادها.
اختبر فهمك
ما فائدة التفاف 1×1 قبل 5×5 في Inception؟
لماذا؟ اختناق (bottleneck).
أربعة فروع بقنوات 16 و32 و8 و8، ما قنوات الخرج بعد الضم؟
لماذا؟ المجموع.
ما الفرعان في الشبكة ثنائية التدفق للفيديو؟
لماذا؟ Simonyan وZisserman 2014.
المراجع
Szegedy, C., Liu, W., Jia, Y., Sermanet, P., Reed, S., Anguelov, D., Erhan, D., Vanhoucke, V., & Rabinovich, A. (2015). Going deeper with convolutions. IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 1–9. https://doi.org/10.1109/CVPR.2015.7298594
Simonyan, K., & Zisserman, A. (2014). Two-stream convolutional networks for action recognition in videos. Advances in Neural Information Processing Systems (NeurIPS) 27. https://arxiv.org/abs/1406.2199
Xie, S., Girshick, R., Dollár, P., Tu, Z., & He, K. (2017). Aggregated residual transformations for deep neural networks. IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 5987–5995. https://doi.org/10.1109/CVPR.2017.634
