تقنياتSHAP (SHapley Additive exPlanations) تُستخدم لتفسير النماذج عبر توزيع المساهمة العادلة لكل ميزة في التنبؤ استنادًا إلى Shapley Values من نظرية الألعاب، حيث يتم قياس تأثير كل ميزة على النتيجة عند إضافتها أو إزالتها، مما يتيح تفسيرًا محليًا لكل تنبؤ وتفسيرًا عامًا لسلوك النموذج، وهذا يُساعد على فهم لماذا اتخذ النموذج قرارًا معينًا ويُعزز الثقة والشفافية خصوصًا في النماذج المعقدة.
ا.م.د. علاء طعيمة عبد الكاظم
أستاذ مساعد دكتور في الذكاء الاصطناعي والتعلم العميق