الانتباه البياني
Graph Attention
أوزان متعلَّمة لكل رابط تحدد مقدار ما تأخذه العقدة من كل جار، تُحسب من محتوى العقدتين.
الشرح
في GAT تُحسب درجة e_ij من التمثيلين، ثم Softmax على الجيران. الانتباه يسمح للنموذج بتجاهل الجيران غير المفيدين. معاملات الانتباه مؤشر مفيد للفهم، لكنها ليست تفسيراً سببياً مضموناً.
المعادلة
\alpha_{ij}=\mathrm{softmax}_j\!\left(\mathrm{LeakyReLU}(\mathbf{a}^\top[Wh_i\Vert Wh_j])\right)شرح الرموز
- α_ij: وزن الجار j عند العقدة i
المراجع
- Veličković, P., Cucurull, G., Casanova, A., Romero, A., Liò, P., & Bengio, Y. (2018). Graph Attention Networks. International Conference on Learning Representations (ICLR). arXiv: 1710.10903الورقة الأصلية لـ GAT والانتباه متعدد الرؤوس على الجيران.
