حوسبة الخزان (ESN / LSM)
Reservoir Computing
شبكة متكررة كبيرة بأوزان عشوائية ثابتة (الخزان) تحوّل الدخل إلى حالات غنية، ولا يُدرَّب إلا طبقة القراءة الخطية، غالباً بانحدار ريدج مغلق الصيغة.
نظرة عامة
| الاسم | حوسبة الخزان – Reservoir Computing |
|---|---|
| سنة الظهور | 2004 |
| الباحثون | Herbert Jaeger، Harald Haas (شبكات حالة الصدى)؛ Wolfgang Maass وآخرون (آلات الحالة السائلة، 2002) |
| الورقة الأصلية | Harnessing nonlinearity: Predicting chaotic systems and saving energy in wireless communication DOI |
| نوع البيانات | تسلسلات وسلاسل زمنية |
| المجالات | التنبؤ بالسلاسل الزمنية، الحوسبة العلمية، الروبوتات |
المشكلة التي تحلها
تدريب الشبكات المتكررة بالانتشار العكسي عبر الزمن بطيء ويعاني من تلاشي التدرّجات وانفجارها.
الخلفية والتطور
ما قبلها: الشبكة العصبية المتكررة
الفكرة الأساسية
الخزان نظام ديناميكي غير خطي عشوائي يعمل كـ "ذاكرة صدى" للدخل. إذا كان نصف القطر الطيفي لمصفوفة التكرار أقل من 1 تقريباً (خاصية حالة الصدى)، تعتمد الحالة على التاريخ القريب ولا تنفجر. بعد جمع الحالات، تُحل مسألة انحدار خطي واحدة لإيجاد أوزان القراءة.
المخطط التفاعلي
مخطط توضيحي مبسّط بأبعاد مثال صغير، وليس رسماً مطابقاً لكل تفاصيل التنفيذ الأصلي. اضغط أي طبقة لترى وظيفتها وأبعادها والعملية الرياضية.
اختر طبقة من المخطط.
المكونات
| المكوّن | الوظيفة |
|---|---|
| Input weights W_in | عشوائية ثابتة |
| Reservoir W | مصفوفة متناثرة عشوائية بنصف قطر طيفي محدد |
| Leaky integration | معامل تسرب α |
| Readout W_out | الجزء الوحيد المدرّب |
| Ridge regression | حل مغلق مع تنظيم |
المعادلات
1. تحديث الخزان
| $\alpha$ | معدل التسرب |
| $W$ | مصفوفة الخزان الثابتة |
| $W_{in}$ | أوزان الدخل الثابتة |
2. قراءة بانحدار ريدج
| $X$ | مصفوفة الحالات المجمعة $N\times T$ |
| $Y$ | الأهداف |
| $\lambda$ | معامل التنظيم |
3. شرط حالة الصدى (عملياً)
| $\rho$ | نصف القطر الطيفي (أكبر قيمة ذاتية بالقيمة المطلقة) |
آلية العمل خطوة بخطوة
- تُولد W_in وW عشوائياً وتُضبط W لنصف قطر طيفي مناسب.
- يمر الدخل ويُجمع تاريخ الحالات.
- تُحذف فترة الإحماء الأولى.
- تُحل W_out بانحدار ريدج.
- يُستخدم النموذج للتنبؤ.
المزايا والقيود
المزايا
- تدريب سريع جداً (حل خطي).
- لا مشكلات تدرّج عبر الزمن.
- قابلة للتنفيذ بعتاد فيزيائي (حوسبة خزان فيزيائية).
القيود
- الأداء يعتمد على ضبط المعاملات الفائقة (ρ، α، N).
- خزانات كبيرة قد تلزم لمهام معقدة.
- أضعف من النماذج المدربة كلياً في مهام اللغة الكبيرة.
متى تُستخدم؟ ومتى لا؟
تناسب
- التنبؤ بأنظمة ديناميكية وفوضوية.
- أجهزة محدودة الموارد.
لا تناسب
- مهام تحتاج تمثيلات هرمية عميقة متعلمة مثل الرؤية واسعة النطاق.
التطبيقات
| المجال | الاستخدام |
|---|---|
| التنبؤ بالسلاسل الزمنية | التنبؤ بسلاسل فوضوية مثل Mackey–Glass. |
| الحوسبة العلمية | نمذجة الأنظمة الديناميكية. |
| الروبوتات | تحكم وتنبؤ منخفض الكلفة. |
كود PyTorch
كود تعليمي مبسّط يعمل على بيانات اصطناعية صغيرة، يغطي: الاستيراد، وتعريف النموذج، والبيانات، والتمرير الأمامي، والخسارة، والمُحسِّن، وحلقة التدريب، والتقييم، والاستدلال. ليس التنفيذ الكامل للبحث الأصلي.
# Echo State Network — قراءة بانحدار ريدج
# مثال تعليمي مبسّط بـ PyTorch (ليس التنفيذ الأصلي الكامل للبحث): بيانات اصطناعية صغيرة،
# يعمل على المعالج المركزي (CPU) خلال ثوانٍ. الأرقام التي يطبعها تخص هذا المثال فقط.
# 1) استيراد المكتبات
import torch
import torch.nn as nn
import torch.nn.functional as F
torch.manual_seed(0)
# 2) تعريف النموذج
class ESN:
"""لا يحتوي على معاملات تُدرَّب بالانحدار: W_in وW ثابتتان، وW_out تُحل بصيغة مغلقة."""
def __init__(self, d_in=1, N=200, rho=0.9, alpha=0.3, density=0.1):
self.W_in = (torch.rand(N, d_in) * 2 - 1) * 0.5
W = (torch.rand(N, N) * 2 - 1) * (torch.rand(N, N) < density)
self.W = W * (rho / torch.linalg.eigvals(W).abs().max()) # ضبط نصف القطر الطيفي
self.alpha, self.N = alpha, N
def states(self, u): # u: T×d
x, X = torch.zeros(self.N), []
for t in range(len(u)):
x = (1 - self.alpha) * x + self.alpha * torch.tanh(self.W_in @ u[t] + self.W @ x)
X.append(x)
return torch.stack(X) # T×N
# 3) إعداد البيانات
# سلسلة: مجموع جيبين؛ المهمة التنبؤ بالقيمة التالية
t = torch.arange(2200).float()
s = torch.sin(0.07 * t) + 0.5 * torch.sin(0.019 * t)
u, target = s[:-1, None], s[1:, None]
model = ESN()
washout, split = 100, 1700
# 4) "التدريب": جمع الحالات ثم حل انحدار ريدج (لا يوجد محسّن تدرّجي)
X = model.states(u) # Forward Pass عبر الخزان
Xtr, Ytr = X[washout:split], target[washout:split]
lam = 1e-4
W_out = torch.linalg.solve(Xtr.T @ Xtr + lam * torch.eye(model.N), Xtr.T @ Ytr) # N×1
# 5) خسارة التدريب (MSE)
print(f"train MSE = {F.mse_loss(Xtr @ W_out, Ytr).item():.6f}")
# 6) التقييم على الجزء اللاحق زمنياً
pred = X[split:] @ W_out
print(f"test MSE = {F.mse_loss(pred, target[split:]).item():.6f}")
# 7) الاستدلال: القيمة التالية بعد آخر خطوة
print("next value:", (X[-1] @ W_out).item(), " true:", target[-1].item())
نُفّذ هذا الكود بتاريخ 2026-11-20 في 1.7 ثانية (PyTorch (CPU), Python 3 – local build machine).
من مخرجاته:
train MSE = 0.000025 test MSE = 0.000025
هذه النتائج لبيانات اصطناعية صغيرة وعدد حقب قليل، وتُثبت أن الكود يعمل فقط؛ لا تقارنها بالنتائج المنشورة.
جرّب وتعمّق
- مختبر السلاسل الزمنية قسم آخر في الموقع
معماريات مرتبطة
الشبكة العصبية المتكررة
Recurrent Neural Network (RNN)
شبكة تعالج التسلسل عنصراً بعنصر وتحمل حالة مخفية تنقل المعلومات من الخطوات السابقة، باستخدام الأوزان نفسها في كل خطوة.
الشبكات العصبية النبضية
Spiking Neural Networks (SNN)
شبكات تتواصل عصبوناتها بنبضات ثنائية متقطعة في الزمن، مثل الدماغ. يتراكم الجهد الغشائي ويُطلق نبضة عند تجاوز العتبة، ثم يُعاد ضبطه.
الشبكات العصبية السائلة
Liquid Neural Networks (LNN)
شبكات متكررة زمنية مستمرة يتغير فيها ثابت الزمن لكل عصبون حسب الدخل (Liquid Time-Constant)، فتتكيف ديناميكيتها مع البيانات مع عدد عصبونات صغير.
لا توجد نتائج مطابقة للمرشحات.
أفكار بحثية
- حوسبة الخزان للتنبؤ بإشارات ECG على أجهزة طرفية مع مقارنة بـ LSTM من حيث الطاقة والدقة.
اقتراحات للانطلاق وليست فجوات بحثية مؤكدة؛ راجع الأدبيات الحديثة قبل اعتمادها.
اختبر فهمك
ما الجزء الذي يُدرّب في شبكة حالة الصدى؟
لماذا؟ الخزان وW_in ثابتان عشوائياً.
لماذا يُضبط نصف القطر الطيفي للخزان عادة أقل من 1؟
لماذا؟ هذه قاعدة عملية لخاصية حالة الصدى.
كيف تُحسب أوزان القراءة عادة؟
لماذا؟ $W_{out}=YX^\top(XX^\top+\lambda I)^{-1}$.
المراجع
Jaeger, H., & Haas, H. (2004). Harnessing nonlinearity: Predicting chaotic systems and saving energy in wireless communication. Science, 304(5667), 78–80. https://doi.org/10.1126/science.1091277
Maass, W., Natschläger, T., & Markram, H. (2002). Real-time computing without stable states: A new framework for neural computation based on perturbations. Neural Computation, 14(11), 2531–2560. https://doi.org/10.1162/089976602760407955
Lukoševičius, M., & Jaeger, H. (2009). Reservoir computing approaches to recurrent neural network training. Computer Science Review, 3(3), 127–149. https://doi.org/10.1016/j.cosrev.2009.03.005
