PNA – التجميع الرئيس للجوار
Principal Neighbourhood Aggregation (2020)
مجمّع واحد لا يكفي لوصف مجموعة جيران بقيم مستمرة؛ استخدم عدة مجمّعات معاً (متوسط، أقصى، أدنى، انحراف معياري) واضربها في مقيّسات تعتمد على الدرجة.
الحدس
مجمّع واحد لا يكفي لوصف مجموعة جيران بقيم مستمرة؛ استخدم عدة مجمّعات معاً (متوسط، أقصى، أدنى، انحراف معياري) واضربها في مقيّسات تعتمد على الدرجة.
الشرح التفصيلي
أثبت المؤلفون أنه لتمييز المجموعات المتعددة من أعداد حقيقية بحجم n يلزم n مجمّعاً على الأقل، فالمجموع وحده (كما في GIN) لا يكفي في الفضاءات المستمرة. لذلك تجمع PNA أربعة مجمّعات، وتطبق على كل منها ثلاثة مقيّسات: هوية، وتضخيم ∝ log(d+1)، وتخميد ∝ 1/log(d+1)، مطبّعة بمتوسط اللوغاريتم على التدريب. تُضم الاثنتا عشرة نتيجة ثم تمرر إلى طبقة خطية.
المقيّسات تعيد معلومة الدرجة التي يفقدها المتوسط، وتمنع انفجار القيم الذي يسببه المجموع. حققت نتائج قوية على مهام بنيوية ومجموعات مثل ZINC.
البنية المعمارية
طبقات PNAConv (4 مجمّعات × 3 مقيّسات، مع أبراج اختيارية) ← BatchNorm ← قراءة ← MLP.
المعادلات
\bigoplus=\underbrace{\begin{bmatrix}I\\ S(D,\alpha=1)\\ S(D,\alpha=-1)\end{bmatrix}}_{\text{scalers}}\otimes\underbrace{\begin{bmatrix}\mu\\ \sigma\\ \max\\ \min\end{bmatrix}}_{\text{aggregators}},\qquad S(d,\alpha)=\left(\frac{\log(d+1)}{\delta}\right)^{\alpha}نقاط القوة
- تمييز أفضل في الخصائص المستمرة
- مقاومة لتفاوت الدرجات
- نتائج قوية على المعايير البنيوية
القيود
- معاملات وكلفة أكبر (12 تجميعاً)
- تحتاج توزيع درجات التدريب مسبقاً
- لا تتجاوز حد 1-WL البنيوي
التعقيد الحسابي
نحو 12 ضعف كلفة التجميع في GCN، خطية في |E|.
متى تستخدمه
تصنيف أو انحدار الرسوم بخصائص مستمرة وتفاوت كبير في الدرجات.
التنفيذ في PyTorch Geometric
torch_geometric.nn.PNAConvشيفرة توضيحية للاستخدام المعتاد؛ راجع توثيق إصدار المكتبة الذي تستخدمه قبل تشغيلها.
تابع التعلّم
نماذج مرتبطة
دروس تشرحه
المراجع
- Corso, G., Cavalleri, L., Beaini, D., Liò, P., & Veličković, P. (2020). Principal Neighbourhood Aggregation for Graph Nets. Advances in Neural Information Processing Systems (NeurIPS). arXiv: 2004.05718PNA: مجمّعات متعددة مع مقيّسات تعتمد على الدرجة.
