كتب الذكاء الاصطناعيمشاريع الذكاء الاصطناعيمقالات الذكاء الاصطناعيمعجم الذكاء الاصطناعياسئلة واجوبة في الذكاء الاصطناعيأكاديمية الذكاء الاصطناعي للأطفالأكاديمية الذكاء الاصطناعيمدرسة رياضيات الذكاء الاصطناعيمختبر الذكاء الاصطناعيمختبر الخوارزميات المستوحاة من الطبيعةأطلس نماذج الذكاء الاصطناعيموسوعة تطبيقات الذكاء الاصطناعيمستكشف مجموعات البيانات للذكاء الاصطناعياختبارات الذكاء الاصطناعيالفايب كودينغدليل البرمجة بالذكاء الاصطناعيمولّد مشاريع الذكاء الاصطناعيمرصد الذكاء الاصطناعيدليل أدوات الذكاء الاصطناعي البحث والنشر الأكاديميمكتبة البرومبتات الأكاديميةمستودع الرسائل والأطاريح في الذكاء الاصطناعيحاسبة الترقية العلميةأكاديمية الوكلاء الذكيينمختبر أخلاقيات الذكاء الاصطناعي والعدالةساحة ألعاب الذكاء الاصطناعيعبقري الذكاء الاصطناعيمختبر التنبؤ بالسلاسل الزمنيةمتحف الذكاء الاصطناعيمختبر الرؤية الحاسوبيةموسوعة شبكات التعلم العميق الحديثةمختبر الشبكات العصبية البيانيةمختبر تحليل الصور الطبيةمختبر معالجة اللغة الطبيعيةمختبر الحوسبة الكمّيةخرائط طريق الذكاء الاصطناعيأكاديمية ماتلاب والذكاء الاصطناعيمصمم الشبكات العصبيةأكاديمية الذكاء الاصطناعي بدون برمجةمختبر الذكاء الاصطناعي الكمّي

GraphSAINT – التعلم الاستقرائي بمعاينة الرسوم

GraphSAINT (2020)

عاين في كل خطوة رسماً فرعياً (بالعقد أو الروابط أو المسارات العشوائية)، ودرّب GNN كاملة عليه، وصحح التحيز بأوزان تطبيع تحسب من احتمالات المعاينة.

العائلة: قابلة للتوسع (Scalable)المهام: تصنيف العقد على رسوم ضخمة

الحدس

عاين في كل خطوة رسماً فرعياً (بالعقد أو الروابط أو المسارات العشوائية)، ودرّب GNN كاملة عليه، وصحح التحيز بأوزان تطبيع تحسب من احتمالات المعاينة.

batch = cluster(s)METIS partitiondashed edges droppedwithin a batch
Cluster-GCN: تقسيم الرسم إلى عناقيد، وتدريب كل دفعة على عنقود أو أكثر.

الشرح التفصيلي

بخلاف معاينة الطبقات، تعاين GraphSAINT الرسم الفرعي مرة واحدة لكل الطبقات، فلا ينفجر الجوار ولا تتفكك الطبقات. تقدّر احتمالات ظهور كل عقدة وكل رابط في الرسوم الفرعية بمعاينة مسبقة، وتستخدمها لتطبيع التجميع (حتى يكون تقديره غير متحيز) والخسارة (حتى لا تُفضّل العقد كثيرة الظهور). ومعاين المسار العشوائي يقلل التباين لأنه يحفظ الروابط المترابطة.

حققت دقة وكفاءة عالية على PPI وFlickr وReddit وYelp وAmazon، وتعمل مع أي معمارية (GCN، GAT، JK).

البنية المعمارية

معاين (عقد/روابط/مسار عشوائي) ← رسم فرعي ← GNN كاملة ← خسارة مطبّعة.

المعادلات

\zeta_v^{(l+1)}=\sum_{u\in V}\frac{\tilde{A}_{v,u}}{\alpha_{u,v}}\,\big(W^{(l)}\big)^{\top}x_u^{(l)}\,\mathbb{1}_{u|v},\qquad \alpha_{u,v}=p_{u,v}/p_v
مجمّع غير متحيز بتطبيع احتمالات المعاينة.

نقاط القوة

  • تقدير غير متحيز
  • مستقل عن المعمارية
  • فعال في الذاكرة

القيود

  • معاينة مسبقة لتقدير الاحتمالات
  • تباين المعاينة
  • معاملات فائقة إضافية للمعاين

التعقيد الحسابي

O(L·|E_sub|·F) لكل خطوة.

متى تستخدمه

رسوم ضخمة مع معماريات متنوعة تحتاج تدريباً فعالاً.

التنفيذ في PyTorch Geometric

torch_geometric.loader.GraphSAINTRandomWalkSampler (وأخواته)

شيفرة توضيحية للاستخدام المعتاد؛ راجع توثيق إصدار المكتبة الذي تستخدمه قبل تشغيلها.

تابع التعلّم

نماذج مرتبطة

دروس تشرحه

المراجع

  1. Zeng, H., Zhou, H., Srivastava, A., Kannan, R., & Prasanna, V. (2020). GraphSAINT: Graph Sampling Based Inductive Learning Method. International Conference on Learning Representations (ICLR). arXiv: 1907.04931تدريب على رسوم فرعية معاينة مع تصحيح الانحياز بالتطبيع.