الوحدة المتكررة ذات البوابات (GRU)
Gated Recurrent Unit
تبسيط لـ LSTM ببوابتين فقط (تحديث وإعادة ضبط) ودون حالة خلية منفصلة، بأداء مقارب في كثير من المهام ومعاملات أقل.
نظرة عامة
| الاسم | الوحدة المتكررة ذات البوابات – Gated Recurrent Unit |
|---|---|
| سنة الظهور | 2014 |
| الباحثون | Kyunghyun Cho، Bart van Merriënboer، Caglar Gulcehre، Dzmitry Bahdanau، Fethi Bougares، Holger Schwenk، Yoshua Bengio |
| الورقة الأصلية | Learning phrase representations using RNN encoder–decoder for statistical machine translation DOI arXiv |
| نوع البيانات | تسلسلات وسلاسل زمنية، نصوص |
| المجالات | التنبؤ بالسلاسل الزمنية، الصوت والكلام، معالجة اللغة الطبيعية |
المشكلة التي تحلها
LSTM فعالة لكنها كثيرة المعاملات؛ أراد الباحثون وحدة أبسط تحافظ على ميزة البوابات.
الخلفية والتطور
ما قبلها: الذاكرة الطويلة قصيرة المدى، الشبكة العصبية المتكررة
الفكرة الأساسية
بوابة التحديث $z_t$ تقرر كم من الحالة القديمة يُحتفظ به مقابل الحالة المرشحة الجديدة (استيفاء خطي). بوابة إعادة الضبط $r_t$ تحدد كم من الحالة السابقة يُستخدم عند حساب المرشحة.
المخطط التفاعلي
مخطط توضيحي مبسّط بأبعاد مثال صغير، وليس رسماً مطابقاً لكل تفاصيل التنفيذ الأصلي. اضغط أي طبقة لترى وظيفتها وأبعادها والعملية الرياضية.
اختر طبقة من المخطط.
المكونات
| المكوّن | الوظيفة |
|---|---|
| Update gate z_t | موازنة القديم والجديد |
| Reset gate r_t | أثر الماضي على المرشح |
| Candidate ĥ_t | حالة مقترحة |
| Hidden state h_t | استيفاء خطي |
المعادلات
1. معادلات GRU (صيغة PyTorch)
| $z_t$ | بوابة التحديث |
| $r_t$ | بوابة إعادة الضبط |
آلية العمل خطوة بخطوة
- تُحسب بوابتا التحديث وإعادة الضبط.
- تُحسب الحالة المرشحة.
- يُستوفى بين الحالة القديمة والمرشحة.
- يتكرر لكل خطوة.
المزايا والقيود
المزايا
- أقل معاملات من LSTM (ثلاث مجموعات بدل أربع).
- أداء مقارب في كثير من المهام.
القيود
- لا يوجد فصل بين الذاكرة والخرج كما في LSTM.
- لا يتفوق بشكل منتظم على LSTM؛ الاختيار تجريبي.
متى تُستخدم؟ ومتى لا؟
تناسب
- حين تكون الموارد محدودة مع حاجة إلى ذاكرة.
لا تناسب
- سياقات طويلة جداً تتطلب توازياً.
التطبيقات
| المجال | الاستخدام |
|---|---|
| التنبؤ بالسلاسل الزمنية | التنبؤ بالطلب والطاقة والأسعار. |
| معالجة اللغة الطبيعية | نمذجة اللغة والتعرف على الكلام (تاريخياً). |
| تحليل الصور الطبية | تحليل الإشارات الحيوية مثل ECG وEEG. |
| الروبوتات | التحكم المتسلسل والتنبؤ بالحركة. |
كود PyTorch
كود تعليمي مبسّط يعمل على بيانات اصطناعية صغيرة، يغطي: الاستيراد، وتعريف النموذج، والبيانات، والتمرير الأمامي، والخسارة، والمُحسِّن، وحلقة التدريب، والتقييم، والاستدلال. ليس التنفيذ الكامل للبحث الأصلي.
# GRU — التنبؤ بالقيمة التالية
# مثال تعليمي مبسّط بـ PyTorch (ليس التنفيذ الأصلي الكامل للبحث): بيانات اصطناعية صغيرة،
# يعمل على المعالج المركزي (CPU) خلال ثوانٍ. الأرقام التي يطبعها تخص هذا المثال فقط.
# 1) استيراد المكتبات
import torch
import torch.nn as nn
import torch.nn.functional as F
torch.manual_seed(0)
# 2) تعريف النموذج
class GRUForecaster(nn.Module):
def __init__(self, d_in=1, h=32):
super().__init__()
self.gru = nn.GRU(d_in, h, batch_first=True)
self.out = nn.Linear(h, 1)
def forward(self, x):
H, _ = self.gru(x)
return self.out(H[:, -1])
# 3) إعداد البيانات
# التنبؤ بالقيمة التالية لمجموع موجتين بأطوار وترددات عشوائية
def make(n, T=30):
w1, w2 = torch.rand(n, 1) * 0.3 + 0.1, torch.rand(n, 1) * 0.1 + 0.02
t = torch.rand(n, 1) * 50 + torch.arange(T + 1).float()
s = torch.sin(w1 * t) + 0.5 * torch.sin(w2 * t) + 0.03 * torch.randn(n, T + 1)
return s[:, :T, None], s[:, T:]
X_train, y_train = make(800)
X_test, y_test = make(200)
model = GRUForecaster()
# 4) دالة الخسارة والمحسّن
loss_fn = nn.MSELoss()
opt = torch.optim.Adam(model.parameters(), lr=5e-3)
# 5) حلقة التدريب (Training Loop) مع Forward Pass
EPOCHS, BATCH = 15, 32
for epoch in range(EPOCHS):
model.train()
perm = torch.randperm(len(X_train))
total = 0.0
for i in range(0, len(X_train), BATCH):
idx = perm[i:i + BATCH]
xb, yb = X_train[idx], y_train[idx]
out = model(xb) # Forward Pass
loss = loss_fn(out, yb)
opt.zero_grad()
loss.backward() # Backpropagation
opt.step()
total += loss.item() * len(idx)
if epoch % max(1, EPOCHS // 4) == 0 or epoch == EPOCHS - 1:
print(f"epoch {epoch:3d} loss={total / len(X_train):.4f}")
# 6) التقييم (Evaluation)
model.eval()
with torch.no_grad():
xb = X_test
out = model(xb)
mse = F.mse_loss(out, y_test).item()
print(f"test MSE = {mse:.4f}")
# 7) الاستدلال (Inference) على عيّنة جديدة
with torch.no_grad():
xb = X_test[:1]
out = model(xb)
print("prediction:", out.squeeze().tolist())
نُفّذ هذا الكود بتاريخ 2026-11-20 في 4.7 ثانية (PyTorch (CPU), Python 3 – local build machine).
من مخرجاته:
test MSE = 0.0047
عدد المعاملات القابلة للتدريب في المثال: model = 3٬393.
هذه النتائج لبيانات اصطناعية صغيرة وعدد حقب قليل، وتُثبت أن الكود يعمل فقط؛ لا تقارنها بالنتائج المنشورة.
جرّب وتعمّق
- مصمم المعماريات العصبية
- أطلس نماذج الذكاء الاصطناعي قسم آخر في الموقع
- مختبر السلاسل الزمنية قسم آخر في الموقع
معماريات مرتبطة
الذاكرة الطويلة قصيرة المدى
Long Short-Term Memory (LSTM)
شبكة متكررة بخلية ذاكرة وبوابات (نسيان، إدخال، إخراج) تتحكم بما يُحفظ وما يُمحى، فتتعلم اعتماديات بعيدة أفضل بكثير من RNN البسيطة.
الشبكة العصبية المتكررة
Recurrent Neural Network (RNN)
شبكة تعالج التسلسل عنصراً بعنصر وتحمل حالة مخفية تنقل المعلومات من الخطوات السابقة، باستخدام الأوزان نفسها في كل خطوة.
الشبكات الهجينة CNN–GRU
CNN-GRU
التفافات أحادية البعد تلتقط أنماطاً محلية في الإشارة وتقلل طولها، ثم GRU (غالباً ثنائية الاتجاه) تنمذج العلاقات عبر الزمن بعدد معاملات أقل من LSTM.
الشبكات البيانية الزمنية
Temporal Graph Networks (TGN)
إطار لتعلم تمثيلات على رسوم ديناميكية تمثَّل كتيار من الأحداث المؤقتة، باستخدام ذاكرة لكل عقدة تُحدَّث بالأحداث ووحدة تضمين تجمع الجيران الزمنيين.
لا توجد نتائج مطابقة للمرشحات.
أفكار بحثية
- مقارنة منهجية لـ GRU وLSTM على بيانات EEG عربية مع ضبط متساوٍ للمعاملات الفائقة.
اقتراحات للانطلاق وليست فجوات بحثية مؤكدة؛ راجع الأدبيات الحديثة قبل اعتمادها.
اختبر فهمك
كم بوابة في GRU؟
لماذا؟ LSTM هي التي لها ثلاث بوابات وحالة خلية.
في صيغة PyTorch، إذا كانت $z_t=1$ فما $h_t$؟
لماذا؟ $h_t=(1-1)\tilde h+1\cdot h_{t-1}$.
ما الادعاء الأدق عن GRU مقابل LSTM؟
لماذا؟ خلصت مقارنات Chung وزملائه إلى تقارب الأداء.
المراجع
Cho, K., van Merriënboer, B., Gulcehre, C., Bahdanau, D., Bougares, F., Schwenk, H., & Bengio, Y. (2014). Learning phrase representations using RNN encoder–decoder for statistical machine translation. Proceedings of EMNLP 2014, 1724–1734. https://doi.org/10.3115/v1/D14-1179
Chung, J., Gulcehre, C., Cho, K., & Bengio, Y. (2014). Empirical evaluation of gated recurrent neural networks on sequence modeling. NIPS 2014 Workshop on Deep Learning. https://arxiv.org/abs/1412.3555
Hochreiter, S., & Schmidhuber, J. (1997). Long short-term memory. Neural Computation, 9(8), 1735–1780. https://doi.org/10.1162/neco.1997.9.8.1735
