批次處理 vs 即時推論
Batch Processing vs Real-time Inference
批次處理 側重 將大量資料或任務累積後一次性集中執行的計算模式，與即時處理相對。，而 即時推論 側重 即時推論是指模型在接收到單個輸入後立即進行預測，適用於需要快速響應的應用，例如線上推薦或詐欺檢測。。
逐項比較
| 項目 | 批次處理 | 即時推論 |
|---|---|---|
| 一句定義 | 將大量資料或任務累積後一次性集中執行的計算模式，與即時處理相對。 | 即時推論是指模型在接收到單個輸入後立即進行預測，適用於需要快速響應的應用，例如線上推薦或詐欺檢測。 |
| 常見標籤 | 機器學習、模型訓練、推論優化、資料處理、MLOps、iPAS | 機器學習、模型部署、AI應用、推薦系統、MLOps |
| iPAS 關聯度 | 未知 | 未知 |
| 考生最常問 | 批次處理與串流處理（Stream Processing）在 AI 應用中有什麼差異？ | 即時推論一定要毫秒級嗎？ |