كتب الذكاء الاصطناعيمشاريع الذكاء الاصطناعيمقالات الذكاء الاصطناعيمعجم الذكاء الاصطناعياسئلة واجوبة في الذكاء الاصطناعيأكاديمية الذكاء الاصطناعي للأطفالأكاديمية الذكاء الاصطناعيمدرسة رياضيات الذكاء الاصطناعيمختبر الذكاء الاصطناعيمختبر الخوارزميات المستوحاة من الطبيعةأطلس نماذج الذكاء الاصطناعيموسوعة تطبيقات الذكاء الاصطناعيمستكشف مجموعات البيانات للذكاء الاصطناعياختبارات الذكاء الاصطناعيالفايب كودينغدليل البرمجة بالذكاء الاصطناعيمولّد مشاريع الذكاء الاصطناعيمرصد الذكاء الاصطناعيدليل أدوات الذكاء الاصطناعي البحث والنشر الأكاديميمكتبة البرومبتات الأكاديميةمستودع الرسائل والأطاريح في الذكاء الاصطناعيحاسبة الترقية العلميةأكاديمية الوكلاء الذكيينمختبر أخلاقيات الذكاء الاصطناعي والعدالةساحة ألعاب الذكاء الاصطناعيعبقري الذكاء الاصطناعيمختبر التنبؤ بالسلاسل الزمنيةمتحف الذكاء الاصطناعيمختبر الرؤية الحاسوبيةمختبر الشبكات العصبية البيانيةمختبر معالجة اللغة الطبيعيةمختبر الحوسبة الكمّيةخرائط طريق الذكاء الاصطناعيأكاديمية ماتلاب والذكاء الاصطناعيمصمم الشبكات العصبيةأكاديمية الذكاء الاصطناعي بدون برمجة

مختبر التفسير

Explainable GNN Lab

لماذا صنّف النموذج هذه العقدة هكذا؟ درّب نموذجاً ثم فسّر قراره بـ GNNExplainer وGraphLIME والتدرج والحجب، وشاهد أهمية الروابط والعقد والخصائص، مع اختبار وفاء (Fidelity) يبيّن هل التفسير يحافظ على التنبؤ.

التفسير هنا حقيقي: كل الطرق تعمل على النموذج المدرّب نفسه في متصفحك. GNNExplainer يتعلم قناعاً للروابط والخصائص يحافظ على التنبؤ (بمعاملات PyG الافتراضية)، وGraphLIME يقيس اعتماد مخرجات النموذج على كل خاصية في جوار العقدة بـ HSIC Lasso، والتدرج (Saliency) يقيس حساسية المخرج لكل رابط، والحجب (Occlusion) يحذف كل رابط ويقيس التغير. التفسيرات تقريبية وقد تختلف بينها، ولا تعني علاقة سببية.

المعادلات

\min_{M,F}\ -\log P_\Phi\!\left(Y=\hat{y}\mid G_S=A\odot\sigma(M),\ X\odot\sigma(F)\right)+\lambda_1\lVert\sigma(M)\rVert_1+\lambda_2 H(\sigma(M))
هدف GNNExplainer: قناع صغير ومحسوم (إنتروبيا منخفضة) يبقي احتمال الفئة المتنبأ بها مرتفعاً.
\mathrm{Fid}=P(\hat{y}\mid G)-P(\hat{y}\mid G_{\text{top-}k})
اختبار الوفاء في المختبر: كم ينخفض احتمال التنبؤ حين نُبقي أهم الروابط فقط.

جارٍ تحميل المختبر التفاعلي…

تجارب جاهزة

استدلال فعلي (Actual Model Inference)متقدم

لماذا صنّف النموذج هذا العضو؟

تفسير تنبؤ GCN مدرّب لعقدة واحدة بأربع طرق، ومقارنة الروابط التي تعدّها كل طريقة مهمة.

البيانات: Zachary Karate Club

شغّل التجربة
استدلال فعلي (Actual Model Inference)متقدم

GraphLIME: أي الخصائص تهم؟

معرفة الخصائص التي يعتمد عليها النموذج في جوار عقدة، على رسم له خصائص حقيقية المعنى (كلمات مصطنعة لكل موضوع).

البيانات: رسم اقتباس مصطنع بخصائص كلمات لكل موضوع

شغّل التجربة

مفاهيم هذه الوحدة

أسئلة شائعة

كيف يعمل GNNExplainer؟

يتعلم قناعاً (Mask) لروابط الرسم الفرعي حول العقدة وخصائصها بحيث يحافظ على توقع النموذج بأقل عدد من الروابط. الخسارة تجمع: الحفاظ على التوقع + عقوبة على حجم القناع + عقوبة على عدم حسمه (الإنتروبيا). الناتج أوزان أهمية للروابط والخصائص. نتائجه تتغير مع البذرة.

ما GraphLIME؟

مفسّر محلي للخصائص: يأخذ العقدة وجوارها، ثم يلائم نموذجاً بسيطاً قابلاً للتفسير (HSIC Lasso) بين خصائص هذه العقد وتوقعات النموذج، فيعطي أهم الخصائص لتوقع العقدة. يفسر الخصائص لا الروابط.

هل التفسيرات في المختبر حقيقية؟

نعم، تُحسب على النموذج الذي دربته فعلاً في متصفحك: البروز (Saliency) من مشتقات حقيقية، والحجب (Occlusion) بحذف فعلي وإعادة استدلال، وGNNExplainer بتحسين فعلي لقناع، وGraphLIME بملاءمة فعلية. لكن التنفيذ مبسط عن المكتبات الرسمية، وكل تفسير وصف لسلوك النموذج لا للسببية في العالم.

كيف أعرف أن التفسير جيد؟

بمقياس الدقة التفسيرية (Fidelity): احذف ما قال المفسّر إنه مهم وقِس كم يتغير التوقع (Fidelity+)، أو أبقِ المهم فقط وقِس كم يبقى التوقع (Fidelity−). قارن دائماً بحذف عشوائي بالحجم نفسه.

حدود التنفيذ

GNNExplainer وGraphLIME تطبيقات مبسطة داخل المختبر (معاملات PyG الافتراضية، وHSIC Lasso بالانحدار الإحداثي)، وليست المكتبات الأصلية. GraphLIME يحتاج خصائص حقيقية للعقد (لا يعمل مع خصائص الهوية).

المراجع

  1. Ying, R., Bourgeois, D., You, J., Zitnik, M., & Leskovec, J. (2019). GNNExplainer: Generating Explanations for Graph Neural Networks. Advances in Neural Information Processing Systems (NeurIPS). arXiv: 1903.03894تعلّم قناعاً للروابط والخصائص يحافظ على تنبؤ النموذج.
  2. Huang, Q., Yamada, M., Tian, Y., et al. (2023). GraphLIME: Local Interpretable Model Explanations for Graph Neural Networks. IEEE Transactions on Knowledge and Data Engineering. DOI: 10.1109/TKDE.2022.3187455 · arXiv: 2001.06216تفسير محلي للخصائص باستخدام HSIC Lasso على جوار العقدة.