Hallucination
الهلوسة
التعريف
توليد النموذج معلومات تبدو معقولة لكنها خاطئة أو غير مدعومة بالمصدر أو غير موجودة.
ينتج النموذج اللغوي النص الأرجح إحصائياً لا الأصح بالضرورة، ولذلك قد يخترع مراجع أو وقائع أو أرقاماً بثقة. تتفاقم الظاهرة عند نقص المعرفة أو غموض السؤال.
تُخفَّف بالاسترجاع من مصادر موثوقة (RAG)، والتعليمات الصريحة بالاعتراف بعدم المعرفة، والتحقق من المخرجات.
Definition
Hallucination refers to model outputs that are fluent and plausible but factually incorrect, fabricated, or unsupported by the provided context.
شرح مبسّط للمبتدئين
كشخص واثق يجيب عن سؤال لا يعرفه فيؤلف إجابة مقنعة بدل أن يقول «لا أعرف».
شرح أكاديمي متخصص
تُصنَّف إلى هلوسة مناقضة للمصدر (Faithfulness) وهلوسة مخالفة للواقع (Factuality)، وتُقاس بمعايير مثل TruthfulQA.
أمثلة عملية
- اختراع مرجع علمي غير موجود.
التطبيقات والاستخدامات
- تقييم موثوقية النماذج.
- تصميم أنظمة تتحقق من المصادر.
المزايا
- فهمها يحسّن استخدام النماذج بأمان.
القيود والعيوب
- لا يمكن القضاء عليها كلياً حالياً.
