Attention
الانتباه
التعريف
أي مجموعة واسعة من آليات بنية الشبكة العصبية (neural network) التي تجمع المعلومات من مجموعة من المدخلات بطريقة تعتمد على البيانات.
أي مجموعة واسعة من آليات بنية الشبكة العصبية (neural network) التي تجمع المعلومات من مجموعة من المدخلات بطريقة تعتمد على البيانات. قد تتكون آلية الانتباه النموذجية من مجموع مرجح على مجموعة من المدخلات، حيث يتم حساب الوزن (weight) لكل مدخل بواسطة جزء آخر من الشبكة العصبية.
راجع أيضًا إلى الانتباه الذاتي (self-attention) والانتباه الذاتي متعدد الرؤوس (multi-head self-attention)، وهما اللبنات الأساسية للمحولات (Transformers).
