iPAS 考題解析
在大型語言模型（LLM）的推論服務中，常透過請求批次處理（Batching）來提升系統效能。關於批次處理（Batching）機制的影響，下列敘述何者最正確？
初級 人工智慧基礎概論
難度：中等 ★★☆ 115 年考題
考試範圍定位
- 考試等級
- 初級能力鑑定
- 考試科目
- 人工智慧基礎概論
- 知識主題
- 人工智慧概念
- 能力指標
- AI 的定義與分類（L11101）
本題屬於 iPAS AI 應用規劃師初級能力鑑定「人工智慧基礎概論」科目中的「人工智慧概念」範疇， 對應的能力指標為「AI 的定義與分類」，涵蓋AI 定義、弱 AI vs 強 AI vs 超 AI 分類、三大 AI 浪潮等核心知識點。 考生在準備這個範疇時，需要掌握相關的理論基礎與實務應用。
題目與選項
在大型語言模型（LLM）的推論服務中，常透過請求批次處理（Batching）來提升系統效能。關於批次處理（Batching）機制的影響，下列敘述何者最正確？
- A. Batching 可提升加速器資源使用效率並增加整體吞吐量（Throughput），但在部分情境下可能對單筆請求延遲造成影響 ✓ 正確答案
- B. Batching 主要用於加快單筆請求回應時間
- C. Batching 的效益主要來自降低記憶體使用量，對於吞吐量（Throughput）與延遲表現影響有限
- D. Batching 在低併發（Concurrency）請求下，仍能明顯提升系統效能
詳細解析
正確答案：A. Batching 可提升加速器資源使用效率並增加整體吞吐量（Throughput），但在部分情境下可能對單筆請求延遲造成影響
Batching 的主要效益是提高 GPU 等加速器的利用率並增加系統吞吐量，但因為需要等待湊滿一批請求再一起處理，可能對個別請求的延遲造成影響。這是批次處理的典型取捨。
各選項逐一解析
理解每個選項為什麼對或錯，是真正掌握這個知識點的關鍵。以下逐一分析每個選項的含義與判斷依據。
A. Batching 可提升加速器資源使用效率並增加整體吞吐量（Throughput），但在部分情境下可能對單筆請求延遲造成影響 （正確）
Batching 提升資源利用率和吞吐量，但可能增加單筆延遲，描述正確（正確答案）。
B. Batching 主要用於加快單筆請求回應時間 （不正確）
Batching 的目的是提升整體吞吐量，不是加快單筆請求回應時間。
C. Batching 的效益主要來自降低記憶體使用量，對於吞吐量（Throughput）與延遲表現影響有限 （不正確）
Batching 的效益主要來自提升計算效率和吞吐量，非降低記憶體使用量。
D. Batching 在低併發（Concurrency）請求下，仍能明顯提升系統效能 （不正確）
低併發下請求數量少，Batching 的效益不明顯。
本題涉及的 AI 術語
深入理解以下術語，有助於掌握本題背後的核心概念，也能幫助你在遇到相似題目時更快判斷正確答案。
中等題備考建議
- ▶ 本題屬於中等難度，需要理解概念之間的關聯與應用情境，不能只靠死背定義。
- ▶ 中等難度的題目常考「為什麼」和「怎麼用」，建議整理各技術的優缺點比較表。
- ▶ 練習時注意錯誤選項的陷阱設計，很多時候錯誤選項只有一兩個字的差異，需要仔細辨別。
- ▶ 建議用「費曼學習法」，嘗試向別人解釋這道題的解題思路，能講清楚就代表真正理解了。
同主題考題練習
以下題目與本題屬於相同的考試範疇，建議一併練習以加強對該主題的掌握程度。
在可解釋 AI（Explainable AI, XAI）的分類架構中，LIME（Local Interpretable Model-agnostic Explanations）屬於哪一類解釋技術？
初級 人工智慧基礎概論 難度 ★★☆ 115 年
某金融機構已部署的AI模型遭客戶抱怨有不公平情形，經數據分析發現不同族群之間的模型預測結果存在顯著差異。根據金融監督管理委員會發布之《金融業運用人工智慧（AI）指引》，此情形下最適當的處置方式為何？
初級 人工智慧基礎概論 難度 ★★☆
在工業物聯網架構中，進行設備預測性維護（Predictive Maintenance）時，若面對異常事件發生頻率極低、樣本高度不平衡的時間序列資料，下列哪一種方法最能兼顧模型穩定性與異常偵測效能？
初級 人工智慧基礎概論 難度 ★★☆ 114 年
iPAS AI 應用規劃師認證簡介
iPAS AI 應用規劃師能力鑑定是經濟部產業發展署推動的國家級 AI 證照制度， 分為「初級」與「中級」兩個等級。初級考試包含「人工智慧基礎概論」和「生成式 AI 應用與規劃」兩個科目， 著重基本概念的理解與應用。中級考試涵蓋「AI 技術應用與規劃」「大數據處理分析與應用」「機器學習技術與應用」三個科目， 要求考生具備更深入的技術知識與實務能力。 本題來自初級考試範圍，適合正在準備初級認證的考生練習。
開始準備 iPAS 考試
本題來自 115 年 AI 應用規劃師初級考試。 想通過 iPAS 認證？從完整題庫練習開始，搭配術語詞典與備考攻略，系統化提升你的 AI 知識。