ماذا ينظر إليه GAT؟
مختبر تصنيف العقدتدريب GAT ثم عرض معاملات الانتباه لعقدة مختارة بوصفها سماكة للروابط.
شغّل التجربةGraph Attention Network (2018)
GAT نموذج يتعلم وزناً مختلفاً لكل جار عبر آلية انتباه (Attention) تعتمد على تمثيلَي العقدتين، ثم يجمع رسائل الجيران بهذه الأوزان، مع رؤوس انتباه متعددة لتثبيت التعلم.
GAT نموذج يتعلم وزناً مختلفاً لكل جار عبر آلية انتباه (Attention) تعتمد على تمثيلَي العقدتين، ثم يجمع رسائل الجيران بهذه الأوزان، مع رؤوس انتباه متعددة لتثبيت التعلم.
ليس كل الجيران متساوين في الأهمية. بدلاً من أوزان ثابتة من الدرجات (كما في GCN)، نحسب لكل رابط درجة توافق من محتوى العقدتين، ونحوّل الدرجات إلى احتمالات بـ Softmax على جيران كل عقدة.
طبقة GAT: تحويل خطي مشترك W، ثم حساب معاملات الانتباه بمتجه a وLeakyReLU (ميل 0.2)، ثم Softmax على الجيران (مع العقدة نفسها). تُستخدم K رؤوس متوازية تُربط نتائجها في الطبقات المخفية وتُحسب متوسطاتها في الطبقة الأخيرة.
e_{ij}=\mathrm{LeakyReLU}\!\left(\mathbf{a}^{\top}\left[W h_i\,\Vert\,W h_j\right]\right)\alpha_{ij}=\frac{\exp(e_{ij})}{\sum_{k\in\mathcal{N}(i)\cup\{i\}}\exp(e_{ik})}h_i^{\prime}=\sigma\!\left(\sum_{j\in\mathcal{N}(i)\cup\{i\}}\alpha_{ij}\,W h_j\right)h_i^{\prime}=\Big\Vert_{k=1}^{K}\sigma\!\left(\sum_{j}\alpha_{ij}^{k}W^{k}h_j\right)الرسالة W h_j؛ التجميع مجموع موزون بمعاملات α_ij المتعلَّمة؛ والتحديث تطبيق σ ثم ربط الرؤوس.
في رسم اقتباس، ورقة تقتبس ورقة مرجعية في موضوعها وورقة عامة في موضوع آخر: يتعلم GAT وزن انتباه أعلى للأولى لأن تمثيلها أقرب، بينما يعطي GCN الوزن بحسب الدرجات فقط.
استقرائي: معاملات الانتباه تُحسب من محتوى العقد، فتُطبق على رسوم جديدة.
التكلفة خطية في عدد الروابط لكل رأس، لكن تخزين الانتباه لكل رابط ولكل رأس يزيد الذاكرة؛ تُستخدم معه طرق أخذ العيّنات للرسوم الضخمة.
O(|V|·F·F' + |E|·F') لكل رأس، مضروبة في عدد الرؤوس K.
معاملات α_ij تُعرض في المختبر بوصفها سماكة للروابط، لكنها تصف ما «انتبه» إليه النموذج، لا بالضرورة سبب قراره.
GAT تعمم GCN: لو كانت α_ij ثابتة ومساوية للتطبيع المتماثل لعادت GCN. تكلفتها أعلى، وفائدتها تظهر حين تختلف أهمية الجيران.
| البيانات | المقياس | القيمة | الإعداد | المصدر |
|---|---|---|---|---|
| Cora | الدقة (Accuracy) | 83.0 ± 0.7% | تقسيم Planetoid العام (20 عقدة موسومة لكل فئة، 1000 عقدة اختبار)، متوسط ± انحراف 100 تشغيل — الجدول 2 | Graph Attention Networks |
| CiteSeer | الدقة (Accuracy) | 72.5 ± 0.7% | تقسيم Planetoid العام (20 عقدة موسومة لكل فئة، 1000 عقدة اختبار)، 100 تشغيل — الجدول 2 | Graph Attention Networks |
| PubMed | الدقة (Accuracy) | 79.0 ± 0.3% | تقسيم Planetoid العام (20 عقدة موسومة لكل فئة، 1000 عقدة اختبار)، 100 تشغيل — الجدول 2 | Graph Attention Networks |
| PPI | Micro-F1 | 0.973 ± 0.002 | استقرائي: رسمان غير مرئيين للاختبار، متوسط 10 تشغيلات — الجدول 3 | Graph Attention Networks |
هذه أرقام الورقة الأصلية بإعدادها المذكور، وليست نتائج المختبر. نتائجك في المتصفح على بيانات صغيرة لا تُقارن بها مباشرة.
يُدرَّب GAT في المختبر برؤوس متعددة (قابلة للضبط) وLeakyReLU بميل 0.2، ويمكنك عرض معاملات الانتباه لكل عقدة بعد التدريب. الحساب كثيف (n×n) لذلك يعمل حتى بضع مئات من العقد.
جارٍ تحميل المختبر التفاعلي…
تدريب GAT ثم عرض معاملات الانتباه لعقدة مختارة بوصفها سماكة للروابط.
شغّل التجربةتدريب GCN فعلياً على بيانات حقيقية صغيرة بعدد قليل من العقد المعلَّمة، ثم قراءة الدقة ومصفوفة الالتباس بصدق.
شغّل التجربةالأقسام
لا يوجد قسم بهذا الاسم. اضغط «بحث» للبحث في محتوى الموقع كله.
المفضلة
نتائجي وشهاداتي
تقدّمي في الأكاديميةنتائج اختباراتيتقدّم الأطفالشهادات الأكاديميةشهادات الاختباراتابدأ أي درس أو اختبار وسيظهر هنا لتعود إليه بسرعة.
الإعدادات
أنا مساعد الشبكات العصبية البيانية. اسألني عن مفهوم أو خوارزمية أو مجموعة بيانات، أو اطلب تجربة أو مشروعاً، وسأجيبك من محتوى المختبر مع ذكر المصادر.
يجيب من قاعدة معرفة المختبر فقط، دون نموذج لغوي خارجي ودون إرسال سؤالك إلى أي جهة خارجية.
قد يخطئ المساعد أحياناً، فراجع المصادر المرفقة.