iPAS 考題解析
某雲端服務公司計畫將大型語言模型部署於線上系統，並以批次推論（Batch Inference）方式處理每日上百萬筆用戶請求。專案團隊在評估可能遇到的挑戰時，下列哪一項通常不會被視為批次推論階段的主要難題？
初級 人工智慧基礎概論
難度：進階 ★★★
考試範圍定位
- 考試等級
- 初級能力鑑定
- 考試科目
- 人工智慧基礎概論
- 知識主題
- 人工智慧概念
- 能力指標
- AI 的定義與分類（L11101）
本題屬於 iPAS AI 應用規劃師初級能力鑑定「人工智慧基礎概論」科目中的「人工智慧概念」範疇， 對應的能力指標為「AI 的定義與分類」，涵蓋AI 定義、弱 AI vs 強 AI vs 超 AI 分類、三大 AI 浪潮等核心知識點。 考生在準備這個範疇時，需要掌握相關的理論基礎與實務應用。
題目與選項
某雲端服務公司計畫將大型語言模型部署於線上系統，並以批次推論（Batch Inference）方式處理每日上百萬筆用戶請求。專案團隊在評估可能遇到的挑戰時，下列哪一項通常不會被視為批次推論階段的主要難題？
- A. 如何確保訓練語料的涵蓋性與標註品質，以避免模型偏差影響輸出； ✓ 正確答案
- B. 當批次規模大時，如何降低推論延遲並保持即時回應能力；
- C. 在推論過程中，有效管理與分配龐大的輸入資料量以避免資源壅塞；
- D. 在叢集環境中精確安排推論任務，以提升GPU/TPU等硬體資源的利用率
詳細解析
正確答案：A. 如何確保訓練語料的涵蓋性與標註品質，以避免模型偏差影響輸出；
訓練語料的涵蓋性與標註品質是訓練階段（Training Phase）的問題，不是批次（Batch）推論（Batch Inference）階段的主要挑戰。
各選項逐一解析
理解每個選項為什麼對或錯，是真正掌握這個知識點的關鍵。以下逐一分析每個選項的含義與判斷依據。
A. 如何確保訓練語料的涵蓋性與標註品質，以避免模型偏差影響輸出； （正確）
這是模型「訓練階段」的問題，確保訓練資料品質是模型開發的基礎，而非批次推論階段的難題。
B. 當批次規模大時，如何降低推論延遲並保持即時回應能力； （不正確）
批次推論處理大量請求時，如何有效管理資源、降低延遲並確保服務品質，是批次推論階段的重要挑戰。
C. 在推論過程中，有效管理與分配龐大的輸入資料量以避免資源壅塞； （不正確）
處理百萬筆用戶請求的批次推論，需要高效的資料管理和資源分配策略，以避免系統過載。
D. 在叢集環境中精確安排推論任務，以提升GPU/TPU等硬體資源的利用率 （不正確）
批次推論通常涉及大量計算，如何最佳化硬體資源排程，提升利用率，是降低成本和提高效率的關鍵挑戰。
延伸學習
本題尚未連結特定術語，你可以從以下常見主題開始探索相關知識。
進階題備考建議
- ▶ 本題屬於進階難度，涉及技術原理的深入理解或跨領域整合應用，需要紮實的基礎。
- ▶ 進階題通常需要你綜合多個知識點才能判斷，建議建立知識圖譜，把相關概念串聯起來。
- ▶ 如果這題答錯了，建議回頭複習相關的基礎概念，確保每一層知識都沒有漏洞。
- ▶ 中級考試的進階題佔比較高，建議先把初級範圍的基礎打穩，再挑戰中級進階題。
同主題考題練習
以下題目與本題屬於相同的考試範疇，建議一併練習以加強對該主題的掌握程度。
iPAS AI 應用規劃師認證簡介
iPAS AI 應用規劃師能力鑑定是經濟部產業發展署推動的國家級 AI 證照制度， 分為「初級」與「中級」兩個等級。初級考試包含「人工智慧基礎概論」和「生成式 AI 應用與規劃」兩個科目， 著重基本概念的理解與應用。中級考試涵蓋「AI 技術應用與規劃」「大數據處理分析與應用」「機器學習技術與應用」三個科目， 要求考生具備更深入的技術知識與實務能力。 本題來自初級考試範圍，適合正在準備初級認證的考生練習。
開始準備 iPAS 考試
本題來自 iPAS AI 應用規劃師初級考試。 想通過 iPAS 認證？從完整題庫練習開始，搭配術語詞典與備考攻略，系統化提升你的 AI 知識。