iPAS 考題解析某AI服務系統每次推論請求需約1秒完成，且必須支援高達10,000次請求每秒（RPS）的流量。為確保系統具備高可用性且能穩定應付流量峰值，下列哪一種架構方案最為合適？

解析

正確答案：B. 採用容器化部署並水平擴展服務實例，結合自動彈性伸縮機制（Auto Scaling）

面對每秒10,000次的高流量，水平擴展（增加服務實例數量）搭配Auto Scaling能動態調整資源，在流量峰值時自動擴容、在低峰時縮容，是應對高並發流量最有效且成本可控的架構方案。

每個選項為什麼對或錯

• A 依賴單台超高效能伺服器進行垂直擴展，提升硬體規格 錯誤選項

  垂直擴展有硬體上限，且單台伺服器存在單點故障風險，無法支撐萬級RPS。

• B 採用容器化部署並水平擴展服務實例，結合自動彈性伸縮機制（Auto Scaling） 正解

  容器化水平擴展加Auto Scaling能動態應對流量變化，是應對高並發的最佳架構方案。

• C 限制最大併發連線數，以避免系統過載 錯誤選項

  限制連線數會導致大量請求被拒絕，無法達到高可用性目標。

• D 增加批次處理大小，一次同時處理上千筆請求 錯誤選項

  批次處理可提升吞吐量但會增加單一請求延遲，且1秒的推論延遲下大批次處理可能造成超時。

答案、題目或解析有問題？回報這題

題目 © 經濟部產業發展署，AITerms.tw 僅作教學解析使用，本站解析以 CC BY-NC-SA 4.0 授權。