HAN – شبكة الانتباه للرسوم غير المتجانسة
Heterogeneous Graph Attention Network (2019)
عرّف علاقات مركبة بالمسارات الوصفية (مثل مؤلف–ورقة–مؤلف)، وطبق انتباهاً بين الجيران داخل كل مسار، ثم انتباهاً يقرر أي المسارات أهم.
الحدس
عرّف علاقات مركبة بالمسارات الوصفية (مثل مؤلف–ورقة–مؤلف)، وطبق انتباهاً بين الجيران داخل كل مسار، ثم انتباهاً يقرر أي المسارات أهم.
الشرح التفصيلي
لكل مسار وصفي Φ يُبنى رسم من العقد المستهدفة المتصلة عبره. تُسقط خصائص الأنواع المختلفة إلى فضاء مشترك، ثم يحسب انتباه على مستوى العقد (مثل GAT) داخل كل رسم لينتج تمثيلاً لكل عقدة لكل مسار. بعدها يحسب انتباه دلالي: يُحوّل كل تمثيل ويُقارن بمتجه انتباه مشترك ويُتوسط على العقد، فيعطي وزن أهمية لكل مسار، ثم يُجمع تمثيل العقدة النهائي بهذه الأوزان.
النتيجة قابلة للتفسير جزئياً عبر أوزان المسارات، لكن اختيار المسارات يدوي ويحتاج خبرة، وقد يفوت علاقات مفيدة.
البنية المعمارية
إسقاط حسب النوع ← انتباه عقدي لكل مسار وصفي ← انتباه دلالي على المسارات ← تصنيف.
المعادلات
z_i^{\Phi}=\Big\Vert_{k=1}^{K}\sigma\Big(\sum_{j\in N_i^{\Phi}}\alpha_{ij}^{\Phi}h_j'\Big),\qquad Z=\sum_{p=1}^{P}\beta_{\Phi_p}Z^{\Phi_p}\beta_{\Phi_p}=\operatorname{softmax}_p\Big(\frac{1}{|V|}\sum_{i\in V}q^{\top}\tanh(Wz_i^{\Phi_p}+b)\Big)نقاط القوة
- يدمج الدلالات المركبة صراحة
- أوزان المسارات قابلة للتفسير
- انتباه هرمي
القيود
- المسارات الوصفية يدوية
- بناء رسوم المسارات مكلف وقد يكون كثيفاً
- يتجاهل العقد الوسيطة في المسار
التعقيد الحسابي
تعتمد على كثافة رسوم المسارات الوصفية؛ قد تكون أكبر بكثير من |E|.
متى تستخدمه
رسوم غير متجانسة بمسارات وصفية معروفة ذات معنى في المجال.
التنفيذ في PyTorch Geometric
torch_geometric.nn.HANConvشيفرة توضيحية للاستخدام المعتاد؛ راجع توثيق إصدار المكتبة الذي تستخدمه قبل تشغيلها.
تابع التعلّم
نماذج مرتبطة
دروس تشرحه
المراجع
- Wang, X., Ji, H., Shi, C., Wang, B., Ye, Y., Cui, P., & Yu, P. S. (2019). Heterogeneous Graph Attention Network. The World Wide Web Conference (WWW). DOI: 10.1145/3308558.3313562 · arXiv: 1903.07293HAN: انتباه على مستوى العقد وعلى مستوى المسارات الوصفية (meta-paths).
- Lv, Q., Ding, M., Liu, Q., Chen, Y., Feng, W., He, S., Zhou, C., Jiang, J., Dong, Y., & Tang, J. (2021). Are we really making much progress? Revisiting, benchmarking, and refining heterogeneous graph neural networks. ACM SIGKDD Conference on Knowledge Discovery and Data Mining (KDD). DOI: 10.1145/3447548.3467350 · arXiv: 2112.14936معيار HGB للرسوم غير المتجانسة وخط الأساس Simple-HGN.
