Attention

الانتباه

أي مجموعة واسعة من آليات بنية الشبكة العصبية (neural network) التي تجمع المعلومات من مجموعة من المدخلات بطريقة تعتمد على البيانات. قد تتكون آلية الانتباه النموذجية من مجموع مرجح على مجموعة من المدخلات، حيث يتم حساب الوزن (weight) لكل مدخل بواسطة جزء آخر من الشبكة العصبية.
راجع أيضًا إلى الانتباه الذاتي (self-attention) والانتباه الذاتي متعدد الرؤوس (multi-head self-attention)، وهما اللبنات الأساسية للمحولات (Transformers).