كتب الذكاء الاصطناعيمشاريع الذكاء الاصطناعيمقالات الذكاء الاصطناعيمعجم الذكاء الاصطناعياسئلة واجوبة في الذكاء الاصطناعيأكاديمية الذكاء الاصطناعي للأطفالأكاديمية الذكاء الاصطناعيمدرسة رياضيات الذكاء الاصطناعيمختبر الذكاء الاصطناعيمختبر الخوارزميات المستوحاة من الطبيعةأطلس نماذج الذكاء الاصطناعيموسوعة تطبيقات الذكاء الاصطناعيمستكشف مجموعات البيانات للذكاء الاصطناعياختبارات الذكاء الاصطناعيالفايب كودينغدليل البرمجة بالذكاء الاصطناعيمولّد مشاريع الذكاء الاصطناعيمرصد الذكاء الاصطناعيدليل أدوات الذكاء الاصطناعي البحث والنشر الأكاديميمكتبة البرومبتات الأكاديميةمستودع الرسائل والأطاريح في الذكاء الاصطناعيحاسبة الترقية العلميةأكاديمية الوكلاء الذكيينمختبر أخلاقيات الذكاء الاصطناعي والعدالةساحة ألعاب الذكاء الاصطناعيعبقري الذكاء الاصطناعيمختبر التنبؤ بالسلاسل الزمنيةمتحف الذكاء الاصطناعيمختبر الرؤية الحاسوبيةموسوعة شبكات التعلم العميق الحديثةمختبر الشبكات العصبية البيانيةمختبر تحليل الصور الطبيةمختبر معالجة اللغة الطبيعيةمختبر الحوسبة الكمّيةخرائط طريق الذكاء الاصطناعيأكاديمية ماتلاب والذكاء الاصطناعيمصمم الشبكات العصبيةأكاديمية الذكاء الاصطناعي بدون برمجةمختبر الذكاء الاصطناعي الكمّي

HAN – شبكة الانتباه للرسوم غير المتجانسة

Heterogeneous Graph Attention Network (2019)

عرّف علاقات مركبة بالمسارات الوصفية (مثل مؤلف–ورقة–مؤلف)، وطبق انتباهاً بين الجيران داخل كل مسار، ثم انتباهاً يقرر أي المسارات أهم.

العائلة: علائقية وغير متجانسة (Relational)المهام: تصنيف العقد في الرسوم غير المتجانسة (أكاديمية، أفلام)

الحدس

عرّف علاقات مركبة بالمسارات الوصفية (مثل مؤلف–ورقة–مؤلف)، وطبق انتباهاً بين الجيران داخل كل مسار، ثم انتباهاً يقرر أي المسارات أهم.

AAPPPVwrites W_r1published-in W_r2cites W_r3h_v′ = σ( Σ_r Σ_{u∈N_r(v)} (1/c) W_r h_u + W_0 h_v )
رسم غير متجانس: أنواع عقد وروابط مختلفة، ولكل نوع علاقة أوزانه الخاصة.

الشرح التفصيلي

لكل مسار وصفي Φ يُبنى رسم من العقد المستهدفة المتصلة عبره. تُسقط خصائص الأنواع المختلفة إلى فضاء مشترك، ثم يحسب انتباه على مستوى العقد (مثل GAT) داخل كل رسم لينتج تمثيلاً لكل عقدة لكل مسار. بعدها يحسب انتباه دلالي: يُحوّل كل تمثيل ويُقارن بمتجه انتباه مشترك ويُتوسط على العقد، فيعطي وزن أهمية لكل مسار، ثم يُجمع تمثيل العقدة النهائي بهذه الأوزان.

النتيجة قابلة للتفسير جزئياً عبر أوزان المسارات، لكن اختيار المسارات يدوي ويحتاج خبرة، وقد يفوت علاقات مفيدة.

البنية المعمارية

إسقاط حسب النوع ← انتباه عقدي لكل مسار وصفي ← انتباه دلالي على المسارات ← تصنيف.

المعادلات

z_i^{\Phi}=\Big\Vert_{k=1}^{K}\sigma\Big(\sum_{j\in N_i^{\Phi}}\alpha_{ij}^{\Phi}h_j'\Big),\qquad Z=\sum_{p=1}^{P}\beta_{\Phi_p}Z^{\Phi_p}
انتباه على مستوى العقد داخل كل مسار، ثم مزج المسارات بأوزان β.
\beta_{\Phi_p}=\operatorname{softmax}_p\Big(\frac{1}{|V|}\sum_{i\in V}q^{\top}\tanh(Wz_i^{\Phi_p}+b)\Big)
الانتباه الدلالي لأهمية كل مسار وصفي.

نقاط القوة

  • يدمج الدلالات المركبة صراحة
  • أوزان المسارات قابلة للتفسير
  • انتباه هرمي

القيود

  • المسارات الوصفية يدوية
  • بناء رسوم المسارات مكلف وقد يكون كثيفاً
  • يتجاهل العقد الوسيطة في المسار

التعقيد الحسابي

تعتمد على كثافة رسوم المسارات الوصفية؛ قد تكون أكبر بكثير من |E|.

متى تستخدمه

رسوم غير متجانسة بمسارات وصفية معروفة ذات معنى في المجال.

التنفيذ في PyTorch Geometric

torch_geometric.nn.HANConv

شيفرة توضيحية للاستخدام المعتاد؛ راجع توثيق إصدار المكتبة الذي تستخدمه قبل تشغيلها.

تابع التعلّم

نماذج مرتبطة

دروس تشرحه

المراجع

  1. Wang, X., Ji, H., Shi, C., Wang, B., Ye, Y., Cui, P., & Yu, P. S. (2019). Heterogeneous Graph Attention Network. The World Wide Web Conference (WWW). DOI: 10.1145/3308558.3313562 · arXiv: 1903.07293HAN: انتباه على مستوى العقد وعلى مستوى المسارات الوصفية (meta-paths).
  2. Lv, Q., Ding, M., Liu, Q., Chen, Y., Feng, W., He, S., Zhou, C., Jiang, J., Dong, Y., & Tang, J. (2021). Are we really making much progress? Revisiting, benchmarking, and refining heterogeneous graph neural networks. ACM SIGKDD Conference on Knowledge Discovery and Data Mining (KDD). DOI: 10.1145/3447548.3467350 · arXiv: 2112.14936معيار HGB للرسوم غير المتجانسة وخط الأساس Simple-HGN.