نماذج فضاء الحالة للتسلسلات
State Space Sequence Models
بديل محتمل للمحولات في التسلسلات الطويلة بتكلفة قريبة من الخطية.
اتجاه ناشئ: توجد أنظمة وأبحاث فعلية، لكن نضجه وانتشاره ما زالا محل بحث. آخر مراجعة لهذه المعلومات: 2026-11-17.
التعريف
نماذج تمثّل التسلسل بحالة مخفية تتطور خطياً، مع معاملات انتقائية في Mamba.
الأساس العلمي
نظرية التحكم والأنظمة الخطية.
تاريخ التطور
S4 (2021) ثم Mamba (2023).
الوضع البحثي الحالي
حقيقة: نتائج منافسة في عدة معايير بحسب الأوراق المنشورة، ونماذج هجينة تجمعها مع الانتباه.
التطبيقات المحتملة
توقع: نماذج أسرع للسياقات الطويلة جداً.
التحديات
- غير مثبت تفوقها العام على المحولات
- أدوات وتحسينات أقل نضجاً
عناصر مرتبطة
مرتبط بـ
- معمارية مامبا معمارية · 2023المصدر: Mamba: Linear-Time Sequence Modeling with Selective State Spaces
خريطة المعرفة لهذا العنصر
افتح بالحجم الكاملالمصادر والمراجع العلمية
- Albert Gu; Karan Goel; Christopher Ré (2021). Efficiently Modeling Long Sequences with Structured State Spaces. arXiv, 2111.00396. DOI: 10.48550/arXiv.2111.00396 · arXiv: 2111.00396
يدعم: S4
- Albert Gu; Tri Dao (2023). Mamba: Linear-Time Sequence Modeling with Selective State Spaces. arXiv, 2312.00752. DOI: 10.48550/arXiv.2312.00752 · arXiv: 2312.00752
يدعم: Mamba
