لماذا صنّف النموذج هذا العضو؟
تفسير تنبؤ GCN مدرّب لعقدة واحدة بأربع طرق، ومقارنة الروابط التي تعدّها كل طريقة مهمة.
شغّل التجربةExplainable GNN Lab
لماذا صنّف النموذج هذه العقدة هكذا؟ درّب نموذجاً ثم فسّر قراره بـ GNNExplainer وGraphLIME والتدرج والحجب، وشاهد أهمية الروابط والعقد والخصائص، مع اختبار وفاء (Fidelity) يبيّن هل التفسير يحافظ على التنبؤ.
التفسير هنا حقيقي: كل الطرق تعمل على النموذج المدرّب نفسه في متصفحك. GNNExplainer يتعلم قناعاً للروابط والخصائص يحافظ على التنبؤ (بمعاملات PyG الافتراضية)، وGraphLIME يقيس اعتماد مخرجات النموذج على كل خاصية في جوار العقدة بـ HSIC Lasso، والتدرج (Saliency) يقيس حساسية المخرج لكل رابط، والحجب (Occlusion) يحذف كل رابط ويقيس التغير. التفسيرات تقريبية وقد تختلف بينها، ولا تعني علاقة سببية.
\min_{M,F}\ -\log P_\Phi\!\left(Y=\hat{y}\mid G_S=A\odot\sigma(M),\ X\odot\sigma(F)\right)+\lambda_1\lVert\sigma(M)\rVert_1+\lambda_2 H(\sigma(M))\mathrm{Fid}=P(\hat{y}\mid G)-P(\hat{y}\mid G_{\text{top-}k})جارٍ تحميل المختبر التفاعلي…
تفسير تنبؤ GCN مدرّب لعقدة واحدة بأربع طرق، ومقارنة الروابط التي تعدّها كل طريقة مهمة.
شغّل التجربةمعرفة الخصائص التي يعتمد عليها النموذج في جوار عقدة، على رسم له خصائص حقيقية المعنى (كلمات مصطنعة لكل موضوع).
شغّل التجربةيتعلم قناعاً (Mask) لروابط الرسم الفرعي حول العقدة وخصائصها بحيث يحافظ على توقع النموذج بأقل عدد من الروابط. الخسارة تجمع: الحفاظ على التوقع + عقوبة على حجم القناع + عقوبة على عدم حسمه (الإنتروبيا). الناتج أوزان أهمية للروابط والخصائص. نتائجه تتغير مع البذرة.
مفسّر محلي للخصائص: يأخذ العقدة وجوارها، ثم يلائم نموذجاً بسيطاً قابلاً للتفسير (HSIC Lasso) بين خصائص هذه العقد وتوقعات النموذج، فيعطي أهم الخصائص لتوقع العقدة. يفسر الخصائص لا الروابط.
نعم، تُحسب على النموذج الذي دربته فعلاً في متصفحك: البروز (Saliency) من مشتقات حقيقية، والحجب (Occlusion) بحذف فعلي وإعادة استدلال، وGNNExplainer بتحسين فعلي لقناع، وGraphLIME بملاءمة فعلية. لكن التنفيذ مبسط عن المكتبات الرسمية، وكل تفسير وصف لسلوك النموذج لا للسببية في العالم.
بمقياس الدقة التفسيرية (Fidelity): احذف ما قال المفسّر إنه مهم وقِس كم يتغير التوقع (Fidelity+)، أو أبقِ المهم فقط وقِس كم يبقى التوقع (Fidelity−). قارن دائماً بحذف عشوائي بالحجم نفسه.
GNNExplainer وGraphLIME تطبيقات مبسطة داخل المختبر (معاملات PyG الافتراضية، وHSIC Lasso بالانحدار الإحداثي)، وليست المكتبات الأصلية. GraphLIME يحتاج خصائص حقيقية للعقد (لا يعمل مع خصائص الهوية).
الأقسام
لا يوجد قسم بهذا الاسم. اضغط «بحث» للبحث في محتوى الموقع كله.
المفضلة
نتائجي وشهاداتي
تقدّمي في الأكاديميةنتائج اختباراتيتقدّم الأطفالشهادات الأكاديميةشهادات الاختباراتابدأ أي درس أو اختبار وسيظهر هنا لتعود إليه بسرعة.
الإعدادات
أنا مساعد الشبكات العصبية البيانية. اسألني عن مفهوم أو خوارزمية أو مجموعة بيانات، أو اطلب تجربة أو مشروعاً، وسأجيبك من محتوى المختبر مع ذكر المصادر.
يجيب من قاعدة معرفة المختبر فقط، دون نموذج لغوي خارجي ودون إرسال سؤالك إلى أي جهة خارجية.
قد يخطئ المساعد أحياناً، فراجع المصادر المرفقة.