Context Window
نافذة السياق
التعريف
أقصى عدد من الرموز يستطيع النموذج اللغوي أخذه في الاعتبار دفعة واحدة، مدخلاً ومخرجاً.
كل ما يتجاوز النافذة لا يراه النموذج. تتفاوت النوافذ من آلاف إلى ملايين الرموز، وتزداد كلفة الحساب والذاكرة مع طولها، وقد يضعف الانتباه للمعلومات في منتصف السياق الطويل.
Definition
The context window is the maximum number of tokens a language model can attend to at once across prompt and output.
شرح مبسّط للمبتدئين
كطاولة عمل: ما يتسع عليها فقط يمكنك رؤيته واستخدامه في آن واحد.
شرح أكاديمي متخصص
تعتمد على الترميز الموضعي وحدود الذاكرة، وتحتاج تقنيات مثل RoPE الممتد لتوسيعها.
أمثلة عملية
- نافذة 128 ألف رمز لوثيقة طويلة.
التطبيقات والاستخدامات
- تحليل الوثائق الطويلة.
المزايا
- تتيح معالجة نصوص أطول.
القيود والعيوب
- كلفة عالية وتشتت الانتباه.
