كتب الذكاء الاصطناعيمشاريع الذكاء الاصطناعيمقالات الذكاء الاصطناعيمعجم الذكاء الاصطناعياسئلة واجوبة في الذكاء الاصطناعيأكاديمية الذكاء الاصطناعي للأطفالأكاديمية الذكاء الاصطناعيمدرسة رياضيات الذكاء الاصطناعيمختبر الذكاء الاصطناعيمختبر الخوارزميات المستوحاة من الطبيعةأطلس نماذج الذكاء الاصطناعيموسوعة تطبيقات الذكاء الاصطناعيمستكشف مجموعات البيانات للذكاء الاصطناعياختبارات الذكاء الاصطناعيالفايب كودينغدليل البرمجة بالذكاء الاصطناعيمولّد مشاريع الذكاء الاصطناعيمرصد الذكاء الاصطناعيدليل أدوات الذكاء الاصطناعي البحث والنشر الأكاديميمكتبة البرومبتات الأكاديميةمستودع الرسائل والأطاريح في الذكاء الاصطناعيحاسبة الترقية العلميةأكاديمية الوكلاء الذكيينمختبر أخلاقيات الذكاء الاصطناعي والعدالةساحة ألعاب الذكاء الاصطناعيعبقري الذكاء الاصطناعيمختبر التنبؤ بالسلاسل الزمنيةمتحف الذكاء الاصطناعيمختبر الرؤية الحاسوبيةموسوعة شبكات التعلم العميق الحديثةمختبر الشبكات العصبية البيانيةمختبر تحليل الصور الطبيةمختبر معالجة اللغة الطبيعيةمختبر الحوسبة الكمّيةخرائط طريق الذكاء الاصطناعيأكاديمية ماتلاب والذكاء الاصطناعيمصمم الشبكات العصبيةأكاديمية الذكاء الاصطناعي بدون برمجةمختبر الذكاء الاصطناعي الكمّي

PNA – التجميع الرئيس للجوار

Principal Neighbourhood Aggregation (2020)

مجمّع واحد لا يكفي لوصف مجموعة جيران بقيم مستمرة؛ استخدم عدة مجمّعات معاً (متوسط، أقصى، أدنى، انحراف معياري) واضربها في مقيّسات تعتمد على الدرجة.

العائلة: قوة تمييز (Expressive)المهام: تصنيف الرسوم وانحدارها، المهام متعددة الخصائص

الحدس

مجمّع واحد لا يكفي لوصف مجموعة جيران بقيم مستمرة؛ استخدم عدة مجمّعات معاً (متوسط، أقصى، أدنى، انحراف معياري) واضربها في مقيّسات تعتمد على الدرجة.

meanmaxminstd⊗ scalersidentity · amp · attCONCAT · MLPS(d, α) = (log(d+1) / δ)^α
PNA: عدة مجمّعات (متوسط، أقصى، أدنى، انحراف) مضروبة في معاملات تعتمد على الدرجة، ثم دمج.

الشرح التفصيلي

أثبت المؤلفون أنه لتمييز المجموعات المتعددة من أعداد حقيقية بحجم n يلزم n مجمّعاً على الأقل، فالمجموع وحده (كما في GIN) لا يكفي في الفضاءات المستمرة. لذلك تجمع PNA أربعة مجمّعات، وتطبق على كل منها ثلاثة مقيّسات: هوية، وتضخيم ∝ log(d+1)، وتخميد ∝ 1/log(d+1)، مطبّعة بمتوسط اللوغاريتم على التدريب. تُضم الاثنتا عشرة نتيجة ثم تمرر إلى طبقة خطية.

المقيّسات تعيد معلومة الدرجة التي يفقدها المتوسط، وتمنع انفجار القيم الذي يسببه المجموع. حققت نتائج قوية على مهام بنيوية ومجموعات مثل ZINC.

البنية المعمارية

طبقات PNAConv (4 مجمّعات × 3 مقيّسات، مع أبراج اختيارية) ← BatchNorm ← قراءة ← MLP.

المعادلات

\bigoplus=\underbrace{\begin{bmatrix}I\\ S(D,\alpha=1)\\ S(D,\alpha=-1)\end{bmatrix}}_{\text{scalers}}\otimes\underbrace{\begin{bmatrix}\mu\\ \sigma\\ \max\\ \min\end{bmatrix}}_{\text{aggregators}},\qquad S(d,\alpha)=\left(\frac{\log(d+1)}{\delta}\right)^{\alpha}
الجداء التنسوري بين المقيّسات والمجمّعات؛ δ متوسط log(d+1) في التدريب.

نقاط القوة

  • تمييز أفضل في الخصائص المستمرة
  • مقاومة لتفاوت الدرجات
  • نتائج قوية على المعايير البنيوية

القيود

  • معاملات وكلفة أكبر (12 تجميعاً)
  • تحتاج توزيع درجات التدريب مسبقاً
  • لا تتجاوز حد 1-WL البنيوي

التعقيد الحسابي

نحو 12 ضعف كلفة التجميع في GCN، خطية في |E|.

متى تستخدمه

تصنيف أو انحدار الرسوم بخصائص مستمرة وتفاوت كبير في الدرجات.

التنفيذ في PyTorch Geometric

torch_geometric.nn.PNAConv

شيفرة توضيحية للاستخدام المعتاد؛ راجع توثيق إصدار المكتبة الذي تستخدمه قبل تشغيلها.

تابع التعلّم

نماذج مرتبطة

دروس تشرحه

المراجع

  1. Corso, G., Cavalleri, L., Beaini, D., Liò, P., & Veličković, P. (2020). Principal Neighbourhood Aggregation for Graph Nets. Advances in Neural Information Processing Systems (NeurIPS). arXiv: 2004.05718PNA: مجمّعات متعددة مع مقيّسات تعتمد على الدرجة.