شبكات الكبسولات (CapsNet)
Capsule Networks
شبكات تمثل الكيانات بكبسولات (متجهات) يعبّر طولها عن احتمال وجود الكيان واتجاهها عن خصائصه (الوضعية)، وتربط المستويات بخوارزمية توجيه ديناميكي بالاتفاق.
نظرة عامة
| الاسم | شبكات الكبسولات – Capsule Networks |
|---|---|
| سنة الظهور | 2017 |
| الباحثون | Sara Sabour، Nicholas Frosst، Geoffrey E. Hinton |
| الجهة | Google Brain |
| الورقة الأصلية | Dynamic routing between capsules arXiv |
| نوع البيانات | صور |
| المجالات | الرؤية الحاسوبية، تحليل الصور الطبية |
| الكلفة الحسابية | مرتفعة نسبياً بسبب تنبؤات كل زوج كبسولات وتكرارات التوجيه. |
| حجم البيانات | مجموعات صغيرة ومتوسطة (MNIST، smallNORB). |
المشكلة التي تحلها
التجميع الأقصى (Max Pooling) في CNN يفقد معلومات العلاقات المكانية بين الأجزاء، فقد تصنّف الشبكة وجهاً مشوّه الترتيب على أنه وجه.
الخلفية والتطور
ما قبلها: الشبكة العصبية الالتفافية
الفكرة الأساسية
كل كبسولة في المستوى الأدنى (جزء) تتنبأ بوضعية كل كبسولة أعلى (كل) عبر مصفوفة تحويل. إذا اتفقت تنبؤات عدة أجزاء على وضعية متشابهة، تزداد معاملات الاقتران نحو تلك الكبسولة. دالة squash تجعل طول المتجه بين 0 و1.
المخطط التفاعلي
مخطط توضيحي مبسّط بأبعاد مثال صغير، وليس رسماً مطابقاً لكل تفاصيل التنفيذ الأصلي. اضغط أي طبقة لترى وظيفتها وأبعادها والعملية الرياضية.
اختر طبقة من المخطط.
المكونات
| المكوّن | الوظيفة |
|---|---|
| Conv layer | استخراج سمات أولية |
| Primary Capsules | التفاف يُعاد تشكيله إلى متجهات صغيرة |
| Transformation matrices | $W_{ij}$ لتنبؤ الجزء بالكل |
| Dynamic routing | تكرار تحديث معاملات الاقتران |
| Squash | تطبيع طول المتجه |
| Margin loss | خسارة على أطوال كبسولات الفئات |
| Reconstruction decoder | إعادة بناء الصورة كتنظيم |
المعادلات
1. دالة الضغط (Squash)
| $s_j$ | الدخل الكلي للكبسولة j |
| $v_j$ | خرجها |
2. التنبؤات والتوجيه
| $c_{ij}$ | معامل الاقتران |
| $b_{ij}$ | لوغاريتم أولي يبدأ صفراً |
3. خسارة الهامش
| $T_k$ | 1 إذا كانت الفئة k موجودة |
| $m^+,m^-$ | 0.9 و0.1 |
| $\lambda$ | 0.5 |
آلية العمل خطوة بخطوة
- يستخرج التفاف أولي سمات محلية.
- تُشكّل الكبسولات الابتدائية وتُضغط بـ squash.
- تتنبأ كل كبسولة بوضعية كبسولات الفئات.
- يُكرر التوجيه r مرات لتحديث الاقتران.
- يُحدد الصنف بأطول كبسولة.
- يُضاف فك تشفير لإعادة البناء كتنظيم.
المزايا والقيود
المزايا
- تمثيل صريح لعلاقات الجزء–الكل والوضعية.
- نتائج جيدة على MNIST ومع الأرقام المتداخلة (MultiMNIST) في البحث الأصلي.
القيود
- التوجيه التكراري مكلف ويصعب توسيعه للصور الكبيرة.
- لم تُظهر تفوقاً ثابتاً على CNN الحديثة في مجموعات صور كبيرة.
متى تُستخدم؟ ومتى لا؟
تناسب
- دراسة العلاقات المكانية والوضعية.
- تجارب بحثية على بيانات صغيرة.
لا تناسب
- صور عالية الدقة وبيانات ضخمة حيث الكلفة كبيرة.
التطبيقات
| المجال | الاستخدام |
|---|---|
| الرؤية الحاسوبية | تمييز الأرقام المتداخلة والأجسام بوضعيات مختلفة. |
| تحليل الصور الطبية | تجارب في تصنيف صور طبية صغيرة. |
كود PyTorch
كود تعليمي مبسّط يعمل على بيانات اصطناعية صغيرة، يغطي: الاستيراد، وتعريف النموذج، والبيانات، والتمرير الأمامي، والخسارة، والمُحسِّن، وحلقة التدريب، والتقييم، والاستدلال. ليس التنفيذ الكامل للبحث الأصلي.
نسخة مصغرة لصور 16×16 دون فك تشفير إعادة البناء؛ البحث الأصلي يستخدم MNIST بصور 28×28 و1152 كبسولة ابتدائية.
# Capsule Network مع التوجيه الديناميكي — نسخة مصغرة
# مثال تعليمي مبسّط بـ PyTorch (ليس التنفيذ الأصلي الكامل للبحث): بيانات اصطناعية صغيرة،
# يعمل على المعالج المركزي (CPU) خلال ثوانٍ. الأرقام التي يطبعها تخص هذا المثال فقط.
# 1) استيراد المكتبات
import torch
import torch.nn as nn
import torch.nn.functional as F
torch.manual_seed(0)
# 2) تعريف النموذج
def squash(s, dim=-1):
n2 = (s ** 2).sum(dim, keepdim=True)
return n2 / (1 + n2) * s / torch.sqrt(n2 + 1e-8)
class CapsNet(nn.Module):
def __init__(self, n_classes=2, routing=3):
super().__init__()
self.conv = nn.Conv2d(1, 32, 5) # 16→12
self.primary = nn.Conv2d(32, 8 * 8, 5, stride=2) # 12→4 ⇒ 8 خرائط × كبسولات 8D
self.n_in, self.r = 8 * 4 * 4, routing
self.W = nn.Parameter(torch.randn(1, self.n_in, n_classes, 12, 8) * 0.05)
def forward(self, x):
h = F.relu(self.conv(x))
u = self.primary(h).view(x.shape[0], 8, 8, 4, 4).permute(0, 1, 3, 4, 2).reshape(x.shape[0], -1, 8)
u = squash(u) # B×128×8
u_hat = (self.W @ u[:, :, None, :, None]).squeeze(-1) # B×128×C×12
b = torch.zeros(u_hat.shape[:3])
for it in range(self.r): # التوجيه بالاتفاق
c = torch.softmax(b, dim=2)
v = squash((c.unsqueeze(-1) * u_hat).sum(1)) # B×C×12
if it < self.r - 1:
b = b + (u_hat * v.unsqueeze(1)).sum(-1)
return v.norm(dim=-1) # طول كل كبسولة
def margin_loss(lengths, y, m_pos=0.9, m_neg=0.1, lam=0.5):
T = F.one_hot(y, lengths.shape[1]).float()
L = T * F.relu(m_pos - lengths) ** 2 + lam * (1 - T) * F.relu(lengths - m_neg) ** 2
return L.sum(1).mean()
# 3) إعداد البيانات
def make(n):
X = torch.randn(n, 1, 16, 16) * 0.3
y = torch.randint(0, 2, (n,))
pos = torch.randint(2, 14, (n,))
for i in range(n):
if y[i] == 0: X[i, 0, pos[i], 2:14] += 1.5
else: X[i, 0, 2:14, pos[i]] += 1.5
return X, y
X_train, y_train = make(384)
X_test, y_test = make(96)
model = CapsNet()
# 4) خسارة الهامش والمحسّن
opt = torch.optim.Adam(model.parameters(), lr=3e-3)
# 5) حلقة التدريب
for epoch in range(6):
model.train()
for i in range(0, len(X_train), 32):
xb, yb = X_train[i:i + 32], y_train[i:i + 32]
loss = margin_loss(model(xb), yb) # Forward Pass + Margin Loss
opt.zero_grad(); loss.backward(); opt.step()
print(f"epoch {epoch} loss={loss.item():.4f}")
# 6) التقييم: الفئة = أطول كبسولة
model.eval()
with torch.no_grad():
acc = (model(X_test).argmax(1) == y_test).float().mean().item()
print(f"test accuracy = {acc:.3f}")
# 7) الاستدلال: أطوال كبسولات الفئات لصورة واحدة
with torch.no_grad():
print("capsule lengths:", [round(v, 3) for v in model(X_test[:1])[0].tolist()])
نُفّذ هذا الكود بتاريخ 2026-11-20 في 3.4 ثانية (PyTorch (CPU), Python 3 – local build machine).
من مخرجاته:
test accuracy = 1.000
عدد المعاملات القابلة للتدريب في المثال: model = 76٬672.
هذه النتائج لبيانات اصطناعية صغيرة وعدد حقب قليل، وتُثبت أن الكود يعمل فقط؛ لا تقارنها بالنتائج المنشورة.
جرّب وتعمّق
معماريات مرتبطة
الشبكة العصبية الالتفافية
Convolutional Neural Network (CNN)
شبكة تستخدم مرشّحات التفاف صغيرة مشتركة الأوزان تنزلق على الصورة، فتلتقط الأنماط المحلية مع عدد معاملات أقل بكثير من MLP.
الشبكات الكبسولية الهجينة
Hybrid Capsule Networks (CNN-CapsNet)
تصاميم تستخدم عموداً فقرياً التفافياً قوياً (مثل ResNet) لاستخراج السمات، ثم طبقة كبسولات مع توجيه ديناميكي في الأعلى لتمثيل علاقات الجزء–الكل.
آلية الانتباه
Attention Mechanism
آلية تسمح للنموذج بأن يحسب أوزاناً لكل عنصر من عناصر الدخل حسب صلته بالخطوة الحالية، ثم يأخذ متوسطاً موزوناً، بدلاً من ضغط الجملة كلها في متجه واحد.
لا توجد نتائج مطابقة للمرشحات.
أفكار بحثية
- تقييم متانة CapsNet تجاه الدوران مقارنة بـ CNN مع تكبير بيانات مكافئ.
- كبسولات خفيفة لتصنيف صور طبية صغيرة مع تحليل الكلفة.
اقتراحات للانطلاق وليست فجوات بحثية مؤكدة؛ راجع الأدبيات الحديثة قبل اعتمادها.
اختبر فهمك
ماذا يمثل طول متجه الكبسولة في CapsNet؟
لماذا؟ دالة squash تجعل الطول بين 0 و1، والاتجاه يمثل الخصائص.
ما ناتج طول squash لمتجه طوله 1؟
لماذا؟ $1^2/(1+1^2)=0.5$.
ما الفكرة وراء التوجيه الديناميكي؟
لماذا؟ يُحدّث $b_{ij}$ بحاصل الضرب النقطي بين التنبؤ والخرج.
المراجع
Sabour, S., Frosst, N., & Hinton, G. E. (2017). Dynamic routing between capsules. Advances in Neural Information Processing Systems (NeurIPS) 30. https://arxiv.org/abs/1710.09829
Hinton, G. E., Sabour, S., & Frosst, N. (2018). Matrix capsules with EM routing. International Conference on Learning Representations (ICLR). https://openreview.net/forum?id=HJWLfGWRb
De Sousa Ribeiro, F., Duarte, K., Everett, M., Leontidis, G., & Shah, M. (2024). Object-centric learning with capsule networks: A survey. ACM Computing Surveys, 56(11), 1–291 (arXiv 2206.02664). https://doi.org/10.1145/3674500
