TGAT – الانتباه البياني الزمني
Temporal Graph Attention (2020)
مثل GAT لكن على الجيران الزمنيين (من تفاعل مع العقدة قبل لحظة الاستعلام)، مع ترميز وظيفي للفارق الزمني يُضاف إلى الخصائص.
الحدس
مثل GAT لكن على الجيران الزمنيين (من تفاعل مع العقدة قبل لحظة الاستعلام)، مع ترميز وظيفي للفارق الزمني يُضاف إلى الخصائص.
الشرح التفصيلي
لحساب تمثيل العقدة v عند الزمن t، تُجمع الأحداث السابقة مع جيرانها (u, t_u)، ويُضم إلى تمثيل كل جار ترميز زمني Φ(t − t_u) مستمد من مبرهنة Bochner بترددات متعلَّمة، ثم يُطبق انتباه متعدد الرؤوس بأسلوب المحوّل. الطبقات المتعددة تعني جيران الجيران زمنياً. لأن التمثيل دالة للخصائص والزمن، يعمل استقرائياً على عقد جديدة.
طُبق على Reddit وWikipedia (تفاعلات مستخدمين مع صفحات) وحقق نتائج قوية في التنبؤ بالروابط المستقبلية.
البنية المعمارية
L طبقات انتباه زمني متعدد الرؤوس مع Φ(Δt) ← تمثيل لحظي ← فاك تشفير للروابط.
المعادلات
\Phi_d(t)=\sqrt{\tfrac{1}{d}}\left[\cos(\omega_1t),\sin(\omega_1t),\dots,\cos(\omega_dt),\sin(\omega_dt)\right]نقاط القوة
- زمن مستمر دقيق
- استقرائي
- لا يحتاج لقطات
القيود
- لا ذاكرة طويلة: يعيد حساب الجوار الزمني
- كلفة المعاينة الزمنية
- حساس لعدد الجيران المعاينين
التعقيد الحسابي
O(L·k·F²) لكل استعلام مع k جاراً معايناً.
متى تستخدمه
أحداث مستمرة (رسائل، معاملات، تفاعلات) وتنبؤ بالروابط المستقبلية.
التنفيذ في PyTorch Geometric
torch_geometric.nn.TransformerConv مع ترميز زمني، أو مستودع المؤلفينشيفرة توضيحية للاستخدام المعتاد؛ راجع توثيق إصدار المكتبة الذي تستخدمه قبل تشغيلها.
تابع التعلّم
نماذج مرتبطة
دروس تشرحه
المراجع
- Xu, D., Ruan, C., Korpeoglu, E., Kumar, S., & Achan, K. (2020). Inductive Representation Learning on Temporal Graphs. International Conference on Learning Representations (ICLR). arXiv: 2002.07962TGAT: ترميز زمني وظيفي مع انتباه على الجيران الزمنيين.
