كتب الذكاء الاصطناعيمشاريع الذكاء الاصطناعيمقالات الذكاء الاصطناعيمعجم الذكاء الاصطناعياسئلة واجوبة في الذكاء الاصطناعيأكاديمية الذكاء الاصطناعي للأطفالأكاديمية الذكاء الاصطناعيمدرسة رياضيات الذكاء الاصطناعيمختبر الذكاء الاصطناعيمختبر الخوارزميات المستوحاة من الطبيعةأطلس نماذج الذكاء الاصطناعيموسوعة تطبيقات الذكاء الاصطناعيمستكشف مجموعات البيانات للذكاء الاصطناعياختبارات الذكاء الاصطناعيالفايب كودينغدليل البرمجة بالذكاء الاصطناعيمولّد مشاريع الذكاء الاصطناعيمرصد الذكاء الاصطناعيدليل أدوات الذكاء الاصطناعي البحث والنشر الأكاديميمكتبة البرومبتات الأكاديميةمستودع الرسائل والأطاريح في الذكاء الاصطناعيحاسبة الترقية العلميةأكاديمية الوكلاء الذكيينمختبر أخلاقيات الذكاء الاصطناعي والعدالةساحة ألعاب الذكاء الاصطناعيعبقري الذكاء الاصطناعيمختبر التنبؤ بالسلاسل الزمنيةمتحف الذكاء الاصطناعيمختبر الرؤية الحاسوبيةموسوعة شبكات التعلم العميق الحديثةمختبر الشبكات العصبية البيانيةمختبر تحليل الصور الطبيةمختبر معالجة اللغة الطبيعيةمختبر الحوسبة الكمّيةخرائط طريق الذكاء الاصطناعيأكاديمية ماتلاب والذكاء الاصطناعيمصمم الشبكات العصبيةأكاديمية الذكاء الاصطناعي بدون برمجةمختبر الذكاء الاصطناعي الكمّي

SAGPool – التجميع بالانتباه الذاتي

Self-Attention Graph Pooling (2019)

احسب درجة أهمية لكل عقدة بطبقة GNN (فتراعي البنية والخصائص معاً)، واحتفظ بأعلى نسبة من العقد مع الروابط بينها.

العائلة: تجميع هرمي (Pooling)المهام: تصنيف الرسوم

الحدس

احسب درجة أهمية لكل عقدة بطبقة GNN (فتراعي البنية والخصائص معاً)، واحتفظ بأعلى نسبة من العقد مع الروابط بينها.

.9.2.8.1.7.3top-ky = σ(X p / ‖p‖), keep idx = top_k(y)
التجميع بالاختيار: درجة لكل عقدة، وتبقى أعلى k عقد مع الروابط بينها.

الشرح التفصيلي

الدرجة Z = σ(GNN(X, A)) تخرج قيمة واحدة لكل عقدة. يُحتفظ بأعلى ⌈kN⌉ عقدة، وتُضرب خصائصها في درجاتها حتى يمر التدرج إلى طبقة الدرجة، ويُؤخذ الرسم الفرعي المستحث. الفرق عن gPool أن الدرجة من GNN لا من إسقاط خطي، فتأخذ الجوار في الحسبان.

اقترحت الورقة معماريتين: شاملة (تجميع واحد بعد ضم مخرجات الطبقات) وهرمية (تجميع بعد كل طبقة مع قراءة تُجمع). الطريقة متفرقة وخطية في الروابط، بمعاملات قليلة.

البنية المعمارية

(GCN ← SAGPool ← قراءة) × 3 ← جمع القراءات ← MLP.

المعادلات

Z=\sigma\!\left(\tilde{D}^{-\frac12}\tilde{A}\tilde{D}^{-\frac12}X\Theta_{\text{att}}\right),\quad \text{idx}=\operatorname{top}\text{-}\operatorname{rank}(Z,\lceil kN\rceil),\quad X'=X_{\text{idx}}\odot Z_{\text{idx}}
درجات الانتباه الذاتي واختيار العقد.

نقاط القوة

  • متفرق وفعال
  • يراعي البنية في الاختيار
  • معاملات قليلة

القيود

  • يحذف عقداً وقد يفكك الرسم
  • نسبة k ثابتة
  • تحسيناته تتفاوت تحت التقييم الصارم

التعقيد الحسابي

O(|E|·F) لكل مستوى.

متى تستخدمه

تصنيف رسوم متوسطة إلى كبيرة حين تكون DiffPool مكلفة.

التنفيذ في PyTorch Geometric

torch_geometric.nn.SAGPooling

شيفرة توضيحية للاستخدام المعتاد؛ راجع توثيق إصدار المكتبة الذي تستخدمه قبل تشغيلها.

تابع التعلّم

نماذج مرتبطة

دروس تشرحه

المراجع

  1. Lee, J., Lee, I., & Kang, J. (2019). Self-Attention Graph Pooling. International Conference on Machine Learning (ICML). arXiv: 1904.08082SAGPool: درجات اختيار العقد من طبقة GNN نفسها.
  2. Errica, F., Podda, M., Bacciu, D., & Micheli, A. (2020). A Fair Comparison of Graph Neural Networks for Graph Classification. International Conference on Learning Representations (ICLR). arXiv: 1912.09893بروتوكول تقييم صارم يكشف أن خطوط أساس بسيطة تنافس نماذج معقدة.