GraphSAINT – التعلم الاستقرائي بمعاينة الرسوم
GraphSAINT (2020)
عاين في كل خطوة رسماً فرعياً (بالعقد أو الروابط أو المسارات العشوائية)، ودرّب GNN كاملة عليه، وصحح التحيز بأوزان تطبيع تحسب من احتمالات المعاينة.
الحدس
عاين في كل خطوة رسماً فرعياً (بالعقد أو الروابط أو المسارات العشوائية)، ودرّب GNN كاملة عليه، وصحح التحيز بأوزان تطبيع تحسب من احتمالات المعاينة.
الشرح التفصيلي
بخلاف معاينة الطبقات، تعاين GraphSAINT الرسم الفرعي مرة واحدة لكل الطبقات، فلا ينفجر الجوار ولا تتفكك الطبقات. تقدّر احتمالات ظهور كل عقدة وكل رابط في الرسوم الفرعية بمعاينة مسبقة، وتستخدمها لتطبيع التجميع (حتى يكون تقديره غير متحيز) والخسارة (حتى لا تُفضّل العقد كثيرة الظهور). ومعاين المسار العشوائي يقلل التباين لأنه يحفظ الروابط المترابطة.
حققت دقة وكفاءة عالية على PPI وFlickr وReddit وYelp وAmazon، وتعمل مع أي معمارية (GCN، GAT، JK).
البنية المعمارية
معاين (عقد/روابط/مسار عشوائي) ← رسم فرعي ← GNN كاملة ← خسارة مطبّعة.
المعادلات
\zeta_v^{(l+1)}=\sum_{u\in V}\frac{\tilde{A}_{v,u}}{\alpha_{u,v}}\,\big(W^{(l)}\big)^{\top}x_u^{(l)}\,\mathbb{1}_{u|v},\qquad \alpha_{u,v}=p_{u,v}/p_vنقاط القوة
- تقدير غير متحيز
- مستقل عن المعمارية
- فعال في الذاكرة
القيود
- معاينة مسبقة لتقدير الاحتمالات
- تباين المعاينة
- معاملات فائقة إضافية للمعاين
التعقيد الحسابي
O(L·|E_sub|·F) لكل خطوة.
متى تستخدمه
رسوم ضخمة مع معماريات متنوعة تحتاج تدريباً فعالاً.
التنفيذ في PyTorch Geometric
torch_geometric.loader.GraphSAINTRandomWalkSampler (وأخواته)شيفرة توضيحية للاستخدام المعتاد؛ راجع توثيق إصدار المكتبة الذي تستخدمه قبل تشغيلها.
تابع التعلّم
نماذج مرتبطة
دروس تشرحه
المراجع
- Zeng, H., Zhou, H., Srivastava, A., Kannan, R., & Prasanna, V. (2020). GraphSAINT: Graph Sampling Based Inductive Learning Method. International Conference on Learning Representations (ICLR). arXiv: 1907.04931تدريب على رسوم فرعية معاينة مع تصحيح الانحياز بالتطبيع.
