SAGPool – التجميع بالانتباه الذاتي
Self-Attention Graph Pooling (2019)
احسب درجة أهمية لكل عقدة بطبقة GNN (فتراعي البنية والخصائص معاً)، واحتفظ بأعلى نسبة من العقد مع الروابط بينها.
الحدس
احسب درجة أهمية لكل عقدة بطبقة GNN (فتراعي البنية والخصائص معاً)، واحتفظ بأعلى نسبة من العقد مع الروابط بينها.
الشرح التفصيلي
الدرجة Z = σ(GNN(X, A)) تخرج قيمة واحدة لكل عقدة. يُحتفظ بأعلى ⌈kN⌉ عقدة، وتُضرب خصائصها في درجاتها حتى يمر التدرج إلى طبقة الدرجة، ويُؤخذ الرسم الفرعي المستحث. الفرق عن gPool أن الدرجة من GNN لا من إسقاط خطي، فتأخذ الجوار في الحسبان.
اقترحت الورقة معماريتين: شاملة (تجميع واحد بعد ضم مخرجات الطبقات) وهرمية (تجميع بعد كل طبقة مع قراءة تُجمع). الطريقة متفرقة وخطية في الروابط، بمعاملات قليلة.
البنية المعمارية
(GCN ← SAGPool ← قراءة) × 3 ← جمع القراءات ← MLP.
المعادلات
Z=\sigma\!\left(\tilde{D}^{-\frac12}\tilde{A}\tilde{D}^{-\frac12}X\Theta_{\text{att}}\right),\quad \text{idx}=\operatorname{top}\text{-}\operatorname{rank}(Z,\lceil kN\rceil),\quad X'=X_{\text{idx}}\odot Z_{\text{idx}}نقاط القوة
- متفرق وفعال
- يراعي البنية في الاختيار
- معاملات قليلة
القيود
- يحذف عقداً وقد يفكك الرسم
- نسبة k ثابتة
- تحسيناته تتفاوت تحت التقييم الصارم
التعقيد الحسابي
O(|E|·F) لكل مستوى.
متى تستخدمه
تصنيف رسوم متوسطة إلى كبيرة حين تكون DiffPool مكلفة.
التنفيذ في PyTorch Geometric
torch_geometric.nn.SAGPoolingشيفرة توضيحية للاستخدام المعتاد؛ راجع توثيق إصدار المكتبة الذي تستخدمه قبل تشغيلها.
تابع التعلّم
نماذج مرتبطة
دروس تشرحه
المراجع
- Lee, J., Lee, I., & Kang, J. (2019). Self-Attention Graph Pooling. International Conference on Machine Learning (ICML). arXiv: 1904.08082SAGPool: درجات اختيار العقد من طبقة GNN نفسها.
- Errica, F., Podda, M., Bacciu, D., & Micheli, A. (2020). A Fair Comparison of Graph Neural Networks for Graph Classification. International Conference on Learning Representations (ICLR). arXiv: 1912.09893بروتوكول تقييم صارم يكشف أن خطوط أساس بسيطة تنافس نماذج معقدة.
