iPAS 考題解析某企業提供大型語言模型（LLM）API 服務，需支援高併發請求與流量波動，同時要求服務不中斷並具備故障容忍能力。若以高可用性與可擴展性為主要設計原則，下列哪一種部署方式較為適當？

解析

正確答案：B. 建立多個模型服務實例並透過負載分散機制提供服務

高可用性與可擴展性的核心是建立多個服務實例並透過負載均衡分散流量，確保單一實例故障時服務不中斷，同時能動態擴展應對流量波動。

每個選項為什麼對或錯

• A 採用單一高效能虛擬機（VM）集中部署，以提升資源使用效率 錯誤選項

  單一 VM 集中部署存在單點故障風險，不符合高可用性原則。

• B 建立多個模型服務實例並透過負載分散機制提供服務 正解

  多實例加負載分散是實現高可用性與可擴展性的標準做法。

• C 將推論任務改由用戶端設備分擔，以降低伺服器負載壓力 錯誤選項

  LLM 推論需要大量運算資源，用戶端設備通常無法承擔。

• D 使用 FTP 協議傳輸請求與回應，以減少服務通訊負擔 錯誤選項

  FTP 不適合即時 API 服務通訊，且無法解決高可用性問題。

答案、題目或解析有問題？回報這題

題目 © 經濟部產業發展署，AITerms.tw 僅作教學解析使用，本站解析以 CC BY-NC-SA 4.0 授權。