يُعد التفسير (Interpretation) تحديًا في بعض نماذج الذكاء الاصطناعي وخاصة نماذج التعلم العميق (Deep Learning) لأنها تُبنى على شبكات عصبية متعددة الطبقات (Deep Neural Networks – DNNs) تحتوي على ملايين أو مليارات من المعاملات (Parameters)، ما يجعل عملية اتخاذ القرار معقدة وغير واضحة للبشر. يُطلق على هذه النماذج غالبًا مصطلح الصندوق الأسود (Black Box) لعدم القدرة على تتبع الخطوات الداخلية بدقة. هذا الغموض يخلق صعوبة في فهم العوامل المؤثرة (Feature Importance)، ويؤثر على الثقة (Trust) والمساءلة (Accountability)، خصوصًا في التطبيقات الحرجة مثل التشخيص الطبي، الأنظمة القانونية، والخدمات المالية.
ا.م.د. علاء طعيمة عبد الكاظم
أستاذ مساعد دكتور في الذكاء الاصطناعي والتعلم العميق