الشبكات الالتفافية الزمنية (TCN)
Temporal Convolutional Network
شبكة التفافية أحادية البعد سببية (لا ترى المستقبل) بالتفاف متوسع (dilated) ووصلات متبقية، تعالج التسلسلات بالتوازي وتغطي سياقاً طويلاً.
نظرة عامة
| الاسم | الشبكات الالتفافية الزمنية – Temporal Convolutional Network |
|---|---|
| سنة الظهور | 2018 |
| الباحثون | Shaojie Bai، J. Zico Kolter، Vladlen Koltun |
| الورقة الأصلية | An empirical evaluation of generic convolutional and recurrent networks for sequence modeling arXiv |
| نوع البيانات | تسلسلات وسلاسل زمنية |
| المجالات | التنبؤ بالسلاسل الزمنية، الصوت والكلام |
المشكلة التي تحلها
الشبكات المتكررة بطيئة لأنها متسلسلة، وكان يُعتقد أنها الخيار الافتراضي للتسلسلات؛ أراد المؤلفون اختبار بديل التفافي عام.
الخلفية والتطور
ما قبلها: الشبكة العصبية الالتفافية، الشبكة العصبية المتكررة، WaveNet
الفكرة الأساسية
الالتفاف السببي يحشو من اليسار فقط، فيعتمد خرج الخطوة t على الماضي فقط. التوسع $d=2^l$ يضاعف مجال الرؤية مع كل طبقة، فيغطي مجال رؤية أسي مع عمق خطي. الوصلات المتبقية تثبّت التدريب.
المخطط التفاعلي
مخطط توضيحي مبسّط بأبعاد مثال صغير، وليس رسماً مطابقاً لكل تفاصيل التنفيذ الأصلي. اضغط أي طبقة لترى وظيفتها وأبعادها والعملية الرياضية.
اختر طبقة من المخطط.
المكونات
| المكوّن | الوظيفة |
|---|---|
| Causal Conv1d | حشو يساري فقط |
| Dilation | توسع متزايد 1،2،4… |
| Residual block | التفافان + ReLU + Dropout + وصلة |
| Weight normalization | في البحث الأصلي |
| Output | خطي على آخر خطوة أو كل الخطوات |
المعادلات
1. الالتفاف السببي المتوسع
| $d$ | معامل التوسع |
| $k$ | حجم النواة |
| $f$ | أوزان المرشح |
2. مجال الرؤية
| $d_l$ | توسع الطبقة l |
| $L$ | عدد الطبقات |
آلية العمل خطوة بخطوة
- تُحشى السلسلة من اليسار.
- تُطبق التفافات متوسعة متزايدة.
- تُضاف الوصلات المتبقية.
- يُقرأ الخرج من آخر خطوة أو من كل الخطوات.
المزايا والقيود
المزايا
- معالجة متوازية سريعة.
- مجال رؤية طويل ومضبوط.
- تدرّجات مستقرة.
القيود
- مجال الرؤية محدود بالتصميم؛ ما بعده لا يُرى.
- ذاكرة أكبر أثناء الاستدلال مقارنة بحالة RNN المضغوطة.
متى تُستخدم؟ ومتى لا؟
تناسب
- التنبؤ بالسلاسل الزمنية.
- تصنيف إشارات بطول معروف.
لا تناسب
- اعتماديات أطول من مجال الرؤية المصمم.
التطبيقات
| المجال | الاستخدام |
|---|---|
| التنبؤ بالسلاسل الزمنية | التنبؤ بالطلب والطاقة والأسعار. |
| معالجة اللغة الطبيعية | نمذجة اللغة والتعرف على الكلام (تاريخياً). |
| تحليل الصور الطبية | تحليل الإشارات الحيوية مثل ECG وEEG. |
| الروبوتات | التحكم المتسلسل والتنبؤ بالحركة. |
كود PyTorch
كود تعليمي مبسّط يعمل على بيانات اصطناعية صغيرة، يغطي: الاستيراد، وتعريف النموذج، والبيانات، والتمرير الأمامي، والخسارة، والمُحسِّن، وحلقة التدريب، والتقييم، والاستدلال. ليس التنفيذ الكامل للبحث الأصلي.
# Temporal Convolutional Network (TCN)
# مثال تعليمي مبسّط بـ PyTorch (ليس التنفيذ الأصلي الكامل للبحث): بيانات اصطناعية صغيرة،
# يعمل على المعالج المركزي (CPU) خلال ثوانٍ. الأرقام التي يطبعها تخص هذا المثال فقط.
# 1) استيراد المكتبات
import torch
import torch.nn as nn
import torch.nn.functional as F
torch.manual_seed(0)
# 2) تعريف النموذج
class CausalBlock(nn.Module):
def __init__(self, c_in, c_out, k=3, d=1):
super().__init__()
self.pad = (k - 1) * d
self.c1 = nn.Conv1d(c_in, c_out, k, dilation=d)
self.c2 = nn.Conv1d(c_out, c_out, k, dilation=d)
self.res = nn.Conv1d(c_in, c_out, 1) if c_in != c_out else nn.Identity()
def forward(self, x):
h = F.relu(self.c1(F.pad(x, (self.pad, 0)))) # حشو يساري فقط ⇒ سببية
h = F.relu(self.c2(F.pad(h, (self.pad, 0))))
return F.relu(h + self.res(x))
class TCN(nn.Module):
def __init__(self, c=24, levels=4):
super().__init__()
self.blocks = nn.Sequential(*[CausalBlock(1 if i == 0 else c, c, 3, 2 ** i) for i in range(levels)])
self.out = nn.Linear(c, 1)
def forward(self, x): # x: B×T×1
return self.out(self.blocks(x.transpose(1, 2))[:, :, -1])
# 3) إعداد البيانات
# التنبؤ بالقيمة التالية لمجموع موجتين بأطوار وترددات عشوائية
def make(n, T=30):
w1, w2 = torch.rand(n, 1) * 0.3 + 0.1, torch.rand(n, 1) * 0.1 + 0.02
t = torch.rand(n, 1) * 50 + torch.arange(T + 1).float()
s = torch.sin(w1 * t) + 0.5 * torch.sin(w2 * t) + 0.03 * torch.randn(n, T + 1)
return s[:, :T, None], s[:, T:]
X_train, y_train = make(800)
X_test, y_test = make(200)
model = TCN()
# 4) دالة الخسارة والمحسّن
loss_fn = nn.MSELoss()
opt = torch.optim.Adam(model.parameters(), lr=5e-3)
# 5) حلقة التدريب (Training Loop) مع Forward Pass
EPOCHS, BATCH = 15, 32
for epoch in range(EPOCHS):
model.train()
perm = torch.randperm(len(X_train))
total = 0.0
for i in range(0, len(X_train), BATCH):
idx = perm[i:i + BATCH]
xb, yb = X_train[idx], y_train[idx]
out = model(xb) # Forward Pass
loss = loss_fn(out, yb)
opt.zero_grad()
loss.backward() # Backpropagation
opt.step()
total += loss.item() * len(idx)
if epoch % max(1, EPOCHS // 4) == 0 or epoch == EPOCHS - 1:
print(f"epoch {epoch:3d} loss={total / len(X_train):.4f}")
# 6) التقييم (Evaluation)
model.eval()
with torch.no_grad():
xb = X_test
out = model(xb)
mse = F.mse_loss(out, y_test).item()
print(f"test MSE = {mse:.4f}")
# 7) الاستدلال (Inference) على عيّنة جديدة
with torch.no_grad():
xb = X_test[:1]
out = model(xb)
print("prediction:", out.squeeze().tolist())
نُفّذ هذا الكود بتاريخ 2026-11-20 في 4.8 ثانية (PyTorch (CPU), Python 3 – local build machine).
من مخرجاته:
test MSE = 0.0044
عدد المعاملات القابلة للتدريب في المثال: model = 12٬433.
هذه النتائج لبيانات اصطناعية صغيرة وعدد حقب قليل، وتُثبت أن الكود يعمل فقط؛ لا تقارنها بالنتائج المنشورة.
جرّب وتعمّق
- مصمم المعماريات العصبية
- مختبر السلاسل الزمنية قسم آخر في الموقع
معماريات مرتبطة
الشبكة العصبية الالتفافية
Convolutional Neural Network (CNN)
شبكة تستخدم مرشّحات التفاف صغيرة مشتركة الأوزان تنزلق على الصورة، فتلتقط الأنماط المحلية مع عدد معاملات أقل بكثير من MLP.
الذاكرة الطويلة قصيرة المدى
Long Short-Term Memory (LSTM)
شبكة متكررة بخلية ذاكرة وبوابات (نسيان، إدخال، إخراج) تتحكم بما يُحفظ وما يُمحى، فتتعلم اعتماديات بعيدة أفضل بكثير من RNN البسيطة.
نماذج فضاء الحالة
Structured State Space Models (SSM / S4)
طبقات تسلسلية مبنية على نموذج فضاء الحالة الخطي المستمر، تُقطَّع زمنياً ويمكن حسابها كتكرار سريع في الاستدلال أو كالتفاف طويل متوازٍ في التدريب، مع تهيئة خاصة (HiPPO) لح…
لا توجد نتائج مطابقة للمرشحات.
أفكار بحثية
- TCN مقابل Mamba في تصنيف إشارات EEG طويلة مع قياس زمن الاستدلال.
اقتراحات للانطلاق وليست فجوات بحثية مؤكدة؛ راجع الأدبيات الحديثة قبل اعتمادها.
اختبر فهمك
ما معنى أن الالتفاف "سببي" في TCN؟
لماذا؟ يتحقق ذلك بالحشو من اليسار.
ما مجال الرؤية لنواة 2 وتوسعات 1،2،4 (التفاف واحد لكل طبقة)؟
لماذا؟ $1+1\times(1+2+4)=8$.
ما الميزة الأساسية لـ TCN على LSTM؟
لماذا؟ الالتفاف يحسب كل المواضع معاً.
المراجع
Bai, S., Kolter, J. Z., & Koltun, V. (2018). An empirical evaluation of generic convolutional and recurrent networks for sequence modeling. arXiv preprint. https://arxiv.org/abs/1803.01271
van den Oord, A., Dieleman, S., Zen, H., Simonyan, K., Vinyals, O., Graves, A., Kalchbrenner, N., Senior, A., & Kavukcuoglu, K. (2016). WaveNet: A generative model for raw audio. arXiv preprint. https://arxiv.org/abs/1609.03499
He, K., Zhang, X., Ren, S., & Sun, J. (2016). Deep residual learning for image recognition. IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 770–778. https://doi.org/10.1109/CVPR.2016.90
