الشبكات البيانية الزمنية (TGN)
Temporal Graph Networks
إطار لتعلم تمثيلات على رسوم ديناميكية تمثَّل كتيار من الأحداث المؤقتة، باستخدام ذاكرة لكل عقدة تُحدَّث بالأحداث ووحدة تضمين تجمع الجيران الزمنيين.
نظرة عامة
| الاسم | الشبكات البيانية الزمنية – Temporal Graph Networks |
|---|---|
| سنة الظهور | 2020 |
| الباحثون | Emanuele Rossi، Ben Chamberlain، Fabrizio Frasca، Davide Eynard، Federico Monti، Michael Bronstein |
| الجهة | |
| الورقة الأصلية | Temporal graph networks for deep learning on dynamic graphs arXiv |
| نوع البيانات | رسوم بيانية، تسلسلات وسلاسل زمنية |
| المجالات | أنظمة التوصية، اكتشاف الاحتيال، تحليل الشبكات الاجتماعية، تعلم البيانات البيانية |
المشكلة التي تحلها
كثير من الرسوم تتغير باستمرار (تفاعلات، معاملات، رسائل)، والنماذج الساكنة تتجاهل توقيت الأحداث وترتيبها.
الخلفية والتطور
ما قبلها: جراف سيج، الوحدة المتكررة ذات البوابات، JODIE/DyRep/TGAT
- 2020
قدّم Rossi وزملاؤه TGN كإطار عام يضم نماذج سابقة كحالات خاصة. [مرجع]
الفكرة الأساسية
لكل عقدة متجه ذاكرة $s_i(t)$ يلخص تاريخها. عند حدث بين $i$ و$j$ في الزمن $t$ تُبنى رسالة من ذاكرتيهما والفاصل الزمني وسمات الحدث، وتحدّث الذاكرة بـ GRU. عند التنبؤ يُحسب تضمين العقدة من ذاكرتها وجيرانها الزمنيين بانتباه أو تجميع.
المخطط التفاعلي
مخطط توضيحي مبسّط بأبعاد مثال صغير، وليس رسماً مطابقاً لكل تفاصيل التنفيذ الأصلي. اضغط أي طبقة لترى وظيفتها وأبعادها والعملية الرياضية.
اختر طبقة من المخطط.
المكونات
| المكوّن | الوظيفة |
|---|---|
| Event stream | أحداث $(i,j,t,e_{ij})$ |
| Message function | من الذاكرتين والزمن والحدث |
| Time encoding | ترميز تكراري لـ $\Delta t$ |
| Memory updater | GRU لكل عقدة |
| Embedding module | انتباه على الجيران الزمنيين |
| Decoder | التنبؤ بالروابط المستقبلية |
المعادلات
1. تحديث الذاكرة
| $s_i(t^-)$ | الذاكرة قبل الحدث |
| $\phi$ | ترميز زمني |
| $t_i^-$ | زمن آخر حدث للعقدة |
2. الترميز الزمني
| $\omega,b$ | متجهات متعلمة |
آلية العمل خطوة بخطوة
- تُرتب الأحداث زمنياً وتُعالج على دفعات.
- تُحسب التضمينات من الذاكرة الحالية للتنبؤ بأحداث الدفعة.
- تُحسب الخسارة مقابل عينات سالبة.
- تُبنى الرسائل من أحداث الدفعة.
- تُحدّث الذاكرة بعد الحساب (لتجنب تسرب المعلومات).
المزايا والقيود
المزايا
- يلتقط ديناميكية الرسوم وتوقيت الأحداث.
- إطار عام يتضمن نماذج سابقة.
القيود
- ترتيب التحديث حساس؛ خطأ فيه يسبب تسرب بيانات من المستقبل.
- التدريب متسلسل نسبياً وأصعب في التوازي.
متى تُستخدم؟ ومتى لا؟
تناسب
- التنبؤ بالتفاعلات القادمة.
- كشف الاحتيال في تيارات المعاملات.
لا تناسب
- الرسوم الساكنة أو اللقطات القليلة المتباعدة.
التطبيقات
| المجال | الاستخدام |
|---|---|
| أنظمة التوصية | التنبؤ بالتفاعل التالي بين مستخدم وعنصر. |
| اكتشاف الاحتيال | كشف السلوك الشاذ في تيار المعاملات. |
| تحليل الشبكات الاجتماعية | التنبؤ بالمتابعات والرسائل. |
كود PyTorch
كود تعليمي مبسّط يعمل على بيانات اصطناعية صغيرة، يغطي: الاستيراد، وتعريف النموذج، والبيانات، والتمرير الأمامي، والخسارة، والمُحسِّن، وحلقة التدريب، والتقييم، والاستدلال. ليس التنفيذ الكامل للبحث الأصلي.
# Temporal Graph Network (TGN) مبسّط للتنبؤ بالروابط
# مثال تعليمي مبسّط بـ PyTorch (ليس التنفيذ الأصلي الكامل للبحث): بيانات اصطناعية صغيرة،
# يعمل على المعالج المركزي (CPU) خلال ثوانٍ. الأرقام التي يطبعها تخص هذا المثال فقط.
# 1) استيراد المكتبات
import torch
import torch.nn as nn
import torch.nn.functional as F
torch.manual_seed(0)
# 2) تعريف النموذج
class TimeEnc(nn.Module):
def __init__(self, d):
super().__init__(); self.lin = nn.Linear(1, d)
def forward(self, dt):
return torch.cos(self.lin(dt[:, None])) # φ(Δt)
class TGN(nn.Module):
def __init__(self, N, d=16, dt_dim=8):
super().__init__()
self.N, self.d = N, d
self.time = TimeEnc(dt_dim)
self.msg = nn.Linear(2 * d + dt_dim, d)
self.gru = nn.GRUCell(d, d)
self.emb = nn.Embedding(N, d) # سمات ثابتة للعقد
self.dec = nn.Sequential(nn.Linear(2 * d, d), nn.ReLU(), nn.Linear(d, 1))
self.reset()
def reset(self):
self.mem = torch.zeros(self.N, self.d); self.last = torch.zeros(self.N)
def z(self, nodes):
return self.mem[nodes] + self.emb(nodes) # تضمين = ذاكرة + سمة
def score(self, src, dst):
return self.dec(torch.cat([self.z(src), self.z(dst)], 1)).squeeze(1)
def update(self, src, dst, t):
for a, b in ((src, dst), (dst, src)):
m = self.msg(torch.cat([self.mem[a], self.mem[b], self.time(t - self.last[a])], 1))
self.mem = self.mem.clone(); self.mem[a] = self.gru(torch.relu(m), self.mem[a])
self.last = self.last.clone(); self.last[a] = t
# 3) إعداد البيانات
# تيار أحداث اصطناعي: 40 مستخدماً في 4 مجموعات، والتفاعل غالباً داخل المجموعة
N = 40
group = torch.arange(N) % 4
src = torch.randint(0, N, (1200,))
same = torch.rand(1200) < 0.85
dst = torch.where(same, (src + 4 * torch.randint(1, 10, (1200,))) % N, torch.randint(0, N, (1200,)))
t = torch.arange(1200).float()
split = 1000
model = TGN(N)
# 4) الخسارة: BCE لحدث حقيقي مقابل حدث سالب عشوائي
loss_fn = nn.BCEWithLogitsLoss()
opt = torch.optim.Adam(model.parameters(), lr=1e-2)
# 5) حلقة التدريب: نتنبأ بالدفعة أولاً ثم نحدّث الذاكرة (منع تسرب المستقبل)
for epoch in range(4):
model.reset(); total = 0.0
for i in range(0, split, 50):
s, d_, tt = src[i:i + 50], dst[i:i + 50], t[i:i + 50]
neg = torch.randint(0, N, (len(s),))
logits = torch.cat([model.score(s, d_), model.score(s, neg)])
labels = torch.cat([torch.ones(len(s)), torch.zeros(len(s))])
loss = loss_fn(logits, labels)
opt.zero_grad(); loss.backward(); opt.step(); total += loss.item()
with torch.no_grad():
model.update(s, d_, tt)
model.mem, model.last = model.mem.detach(), model.last.detach()
print(f"epoch {epoch} loss={total / (split // 50):.4f}")
# 6) التقييم على الأحداث اللاحقة زمنياً
with torch.no_grad():
s, d_ = src[split:], dst[split:]
pos, neg = model.score(s, d_), model.score(s, torch.randint(0, N, (len(s),)))
acc = ((pos > neg).float().mean()).item()
print(f"test accuracy = {acc:.3f} (نسبة الأحداث الحقيقية ذات الدرجة الأعلى من السالبة)")
# 7) الاستدلال: احتمال تفاعل المستخدم 0 مع 4 (نفس المجموعة) ومع 1 (مجموعة أخرى)
with torch.no_grad():
print("p(0→4) =", torch.sigmoid(model.score(torch.tensor([0]), torch.tensor([4]))).item(),
" p(0→1) =", torch.sigmoid(model.score(torch.tensor([0]), torch.tensor([1]))).item())
نُفّذ هذا الكود بتاريخ 2026-11-20 في 2.9 ثانية (PyTorch (CPU), Python 3 – local build machine).
من مخرجاته:
test accuracy = 0.705 (نسبة الأحداث الحقيقية ذات الدرجة الأعلى من السالبة)
عدد المعاملات القابلة للتدريب في المثال: model = 3٬489.
هذه النتائج لبيانات اصطناعية صغيرة وعدد حقب قليل، وتُثبت أن الكود يعمل فقط؛ لا تقارنها بالنتائج المنشورة.
جرّب وتعمّق
- مستكشف الشبكات البيانية
- مختبر الشبكات العصبية البيانية قسم آخر في الموقع
- مختبر السلاسل الزمنية قسم آخر في الموقع
معماريات مرتبطة
جراف سيج
GraphSAGE
إطار استقرائي يتعلم دوال تجميع لجوار عيّني من الجيران، فيستطيع حساب تمثيلات لعقد جديدة لم ترها الشبكة أثناء التدريب.
الوحدة المتكررة ذات البوابات
Gated Recurrent Unit (GRU)
تبسيط لـ LSTM ببوابتين فقط (تحديث وإعادة ضبط) ودون حالة خلية منفصلة، بأداء مقارب في كثير من المهام ومعاملات أقل.
شبكة الانتباه البيانية
Graph Attention Network (GAT)
تستبدل الأوزان الثابتة في GCN بمعاملات انتباه متعلمة لكل حافة، فتحدد كل عقدة مقدار أهمية كل جار، مع رؤوس انتباه متعددة.
لا توجد نتائج مطابقة للمرشحات.
أفكار بحثية
- تطبيق TGN على كشف الاحتيال في المعاملات مع تقسيم زمني صارم وتقييم بمقياس AUC-PR.
اقتراحات للانطلاق وليست فجوات بحثية مؤكدة؛ راجع الأدبيات الحديثة قبل اعتمادها.
اختبر فهمك
ما وظيفة الذاكرة في TGN؟
لماذا؟ متجه $s_i(t)$ يُحدّث مع كل حدث.
لماذا تُحدّث الذاكرة بعد التنبؤ بالدفعة وليس قبله؟
لماذا؟ التحديث قبل التنبؤ يسرّب المستقبل إلى النموذج.
ما الذي يرمّزه $\phi(\Delta t)$؟
لماذا؟ يساعد النموذج على معرفة النشاط الحديث والانقطاع.
المراجع
Rossi, E., Chamberlain, B., Frasca, F., Eynard, D., Monti, F., & Bronstein, M. (2020). Temporal graph networks for deep learning on dynamic graphs. ICML 2020 Workshop on Graph Representation Learning and Beyond. https://arxiv.org/abs/2006.10637
Hamilton, W. L., Ying, R., & Leskovec, J. (2017). Inductive representation learning on large graphs. Advances in Neural Information Processing Systems (NeurIPS) 30. https://arxiv.org/abs/1706.02216
Cho, K., van Merriënboer, B., Gulcehre, C., Bahdanau, D., Bougares, F., Schwenk, H., & Bengio, Y. (2014). Learning phrase representations using RNN encoder–decoder for statistical machine translation. Proceedings of EMNLP 2014, 1724–1734. https://doi.org/10.3115/v1/D14-1179
