SGC – الشبكة الالتفافية المبسطة
Simplifying Graph Convolutional Networks (2019)
إذا كانت قوة GCN تأتي من التنعيم عبر الجيران لا من اللاخطيات بين الطبقات، فلنحذف اللاخطيات: K طبقة تصبح ضرباً واحداً في Â^K يُحسب مسبقاً، ثم مصنف خطي.
الحدس
إذا كانت قوة GCN تأتي من التنعيم عبر الجيران لا من اللاخطيات بين الطبقات، فلنحذف اللاخطيات: K طبقة تصبح ضرباً واحداً في Â^K يُحسب مسبقاً، ثم مصنف خطي.
الشرح التفصيلي
تزيل SGC دوال التنشيط بين طبقات GCN فتنهار الأوزان المتتالية إلى مصفوفة واحدة W، ويصبح النموذج انحداراً لوجستياً على خصائص منعّمة Â^K X. تُحسب الخصائص المنعّمة مرة واحدة قبل التدريب، فيصبح التدريب بكلفة نموذج خطي ويتوسع إلى رسوم ضخمة بدفعات عادية.
أظهر المؤلفون أن أداءها قريب من GCN على مجموعات الاقتباس مع تسريع كبير، وحللوا Â طيفياً بوصفها مرشحاً منخفض التمرير تقلص إضافةُ الحلقات الذاتية مجالَه الطيفي. وهي اليوم خط أساس إلزامي: إذا لم يتفوق نموذجك عليها فاللاخطية لا تضيف شيئاً.
البنية المعمارية
معالجة مسبقة: S = Â^K X ← انحدار لوجستي softmax(SW).
المعادلات
\hat{Y}=\operatorname{softmax}\!\left(\hat{A}^{K}X\,\Theta\right)نقاط القوة
- أسرع بكثير من GCN
- يتوسع إلى ملايين العقد بعد حساب مسبق واحد
- عدد معاملات قليل جداً ومقاومة لفرط التخصيص
القيود
- خطي: لا يلتقط تفاعلات معقدة بين الخصائص
- ضعيف في عدم التجانس
- K كبيرة تسبب تنعيماً مفرطاً
التعقيد الحسابي
معالجة مسبقة O(K·|E|·F)، ثم تدريب O(n·F·C).
متى تستخدمه
خط أساس سريع، ورسوم ضخمة متجانسة، وتجارب أولية.
التنفيذ في PyTorch Geometric
torch_geometric.nn.SGConvشيفرة توضيحية للاستخدام المعتاد؛ راجع توثيق إصدار المكتبة الذي تستخدمه قبل تشغيلها.
تابع التعلّم
نماذج مرتبطة
دروس تشرحه
المراجع
- Wu, F., Zhang, T., de Souza, A. H., Fifty, C., Yu, T., & Weinberger, K. Q. (2019). Simplifying Graph Convolutional Networks. International Conference on Machine Learning (ICML). arXiv: 1902.07153SGC: إزالة اللاخطية وضغط K طبقة في ضرب واحد.
