كتب الذكاء الاصطناعيمشاريع الذكاء الاصطناعيمقالات الذكاء الاصطناعيمعجم الذكاء الاصطناعياسئلة واجوبة في الذكاء الاصطناعيأكاديمية الذكاء الاصطناعي للأطفالأكاديمية الذكاء الاصطناعيمدرسة رياضيات الذكاء الاصطناعيمختبر الذكاء الاصطناعيمختبر الخوارزميات المستوحاة من الطبيعةأطلس نماذج الذكاء الاصطناعيموسوعة تطبيقات الذكاء الاصطناعيمستكشف مجموعات البيانات للذكاء الاصطناعياختبارات الذكاء الاصطناعيالفايب كودينغدليل البرمجة بالذكاء الاصطناعيمولّد مشاريع الذكاء الاصطناعيمرصد الذكاء الاصطناعيدليل أدوات الذكاء الاصطناعي البحث والنشر الأكاديميمكتبة البرومبتات الأكاديميةمستودع الرسائل والأطاريح في الذكاء الاصطناعيحاسبة الترقية العلميةأكاديمية الوكلاء الذكيينمختبر أخلاقيات الذكاء الاصطناعي والعدالةساحة ألعاب الذكاء الاصطناعيعبقري الذكاء الاصطناعيمختبر التنبؤ بالسلاسل الزمنيةمتحف الذكاء الاصطناعيمختبر الرؤية الحاسوبيةموسوعة شبكات التعلم العميق الحديثةمختبر الشبكات العصبية البيانيةمختبر تحليل الصور الطبيةمختبر معالجة اللغة الطبيعيةمختبر الحوسبة الكمّيةخرائط طريق الذكاء الاصطناعيأكاديمية ماتلاب والذكاء الاصطناعيمصمم الشبكات العصبيةأكاديمية الذكاء الاصطناعي بدون برمجةمختبر الذكاء الاصطناعي الكمّي

DeepWalk – التمثيل بالمسارات العشوائية

DeepWalk (2014)

المسارات العشوائية على الرسم تشبه الجمل، والعقد كالكلمات؛ درّب Skip-gram فتتقارب متجهات العقد التي تظهر في السياقات نفسها.

العائلة: تمثيلات ضحلة (Shallow Embeddings)المهام: تمثيلات العقد غير الخاضعة للإشراف، تصنيف العقد متعدد الوسوم

الحدس

المسارات العشوائية على الرسم تشبه الجمل، والعقد كالكلمات؛ درّب Skip-gram فتتقارب متجهات العقد التي تظهر في السياقات نفسها.

12345walk: 1 → 2 → 3 → 5skip-gramword2vecz1z2z3z4z5
التمثيلات الضحلة: مسارات عشوائية تُعامل جملاً، ثم Skip-gram يتعلم متجهاً لكل عقدة.

الشرح التفصيلي

من كل عقدة تُطلق γ مساراً عشوائياً منتظماً بطول t، ثم تُدرَّب تمثيلات Skip-gram بنافذة w مع Softmax هرمي. تبين أن توزيع ظهور العقد في المسارات القصيرة يتبع قانون قوة كتوزيع الكلمات، فتنجح تقنيات النمذجة اللغوية. التمثيل الناتج جدول متجه لكل عقدة.

كان من أوائل طرق تعلم تمثيل الرسوم، وأظهر تحليل لاحق أنه يعادل ضمنياً تحليل مصفوفة مستمدة من قوى مصفوفة الانتقال.

البنية المعمارية

مسارات عشوائية منتظمة ← Skip-gram ← جدول تمثيلات ← مصنف لاحق.

المعادلات

\min_{\Phi}\;-\log\Pr\big(\{v_{i-w},\dots,v_{i+w}\}\setminus v_i\mid\Phi(v_i)\big)
هدف Skip-gram على نوافذ المسارات.

نقاط القوة

  • بسيط ولا يحتاج خصائص
  • قابل للتوازي
  • يلتقط بنية المجتمعات

القيود

  • تحويلي
  • لا يستخدم الخصائص
  • معاملات n×d

التعقيد الحسابي

O(n·γ·t·w·d) تقريباً.

متى تستخدمه

رسوم بلا خصائص، أو خصائص ابتدائية لنماذج أخرى.

التنفيذ في PyTorch Geometric

torch_geometric.nn.Node2Vec بقيم p = q = 1

شيفرة توضيحية للاستخدام المعتاد؛ راجع توثيق إصدار المكتبة الذي تستخدمه قبل تشغيلها.

تابع التعلّم

نماذج مرتبطة

دروس تشرحه

المراجع

  1. Perozzi, B., Al-Rfou, R., & Skiena, S. (2014). DeepWalk: Online Learning of Social Representations. Proceedings of the 20th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. DOI: 10.1145/2623330.2623732تمثيلات العقد بالمسارات العشوائية (ليست GNN).