Online inference

توليد التنبؤات (predictions) عند الطلب. على سبيل المثال، افترض أن أحد التطبيقات يمرر إدخالاً إلى نموذج ويصدر طلبًا للتنبؤ. يستجيب النظام الذي يستخدم الاستدلال الاونلاين للطلب عن طريق تشغيل النموذج (وإعادة التنبؤ إلى التطبيق).
على النقيض من الاستدلال الاوفلاين (offline inference).