iPAS 考題解析在 AI 推論服務架構設計中，「批次推論（Batch Inference）」與「即時推論（Real-time Inference）」常依任務特性選擇不同機制。下列關於兩者特性的敘述何者最正確？

解析

正確答案：B. 批次推論多用於延遲容忍度較高的大規模資料處理，通常以吞吐量（Throughput）最佳化為優先；即時推論則著重於請求回應時間的穩定性與低延遲特性

批次推論適合大規模資料處理且對延遲容忍度較高的場景，以吞吐量最佳化為目標。即時推論則注重每次請求的回應時間穩定性與低延遲，適合需要即時結果的應用。

每個選項為什麼對或錯

• A 批次推論通常以同步請求方式回傳結果，以確保資料一致性；即時推論則多採非同步機制以提升系統吞吐量（Throughput） 錯誤選項

  批次推論通常是非同步的，不是同步請求；即時推論才是同步的。

• B 批次推論多用於延遲容忍度較高的大規模資料處理，通常以吞吐量（Throughput）最佳化為優先；即時推論則著重於請求回應時間的穩定性與低延遲特性 正解

  批次推論著重吞吐量、容忍延遲；即時推論著重低延遲與穩定性，描述正確（正確答案）。

• C 批次推論因計算資源需求高，僅適用於影像類模型；即時推論則主要應用於結構化資料模型 錯誤選項

  批次推論不限於影像類模型，可用於各種類型的模型。

• D 即時推論為確保回應速度，通常限制為單筆資料輸入；批次推論則可支援同步多筆資料即時回傳 錯誤選項

  即時推論不一定限制單筆輸入，批次推論也不是同步即時回傳。

答案、題目或解析有問題？回報這題

題目 © 經濟部產業發展署，AITerms.tw 僅作教學解析使用，本站解析以 CC BY-NC-SA 4.0 授權。