iPAS 考題解析某航空公司導入生成式 AI 聲控客服，提供航班與票務查詢。有人員透過惡意提示，試圖讓系統洩漏內部安檢流程。在此情境中，下列何者為降低提示攻擊（Prompt Injection）風險的最佳策略？

解析

正確答案：A. 導入輸入檢測與回應審核流程，防止敏感指令被執行

面對惡意提示攻擊，最佳策略是在輸入端和輸出端都建立防護：導入輸入檢測識別惡意提示，搭配回應審核流程防止敏感資訊被輸出。這種雙重防線能有效降低 Prompt Injection 的風險。

每個選項為什麼對或錯

• A 導入輸入檢測與回應審核流程，防止敏感指令被執行 正解

  輸入檢測加回應審核的雙重防線，能有效識別並阻擋惡意提示攻擊。

• B 限制 AI 可回應的主題範圍，使系統僅回答非敏感的航班與票務查詢，避免處理內部或敏感流程資訊 錯誤選項

  限制主題範圍有助於防護，但無法阻擋精心設計的提示注入繞過主題限制。

• C 隨機變化回覆內容，讓攻擊者難以預測回應行為以增加攻擊難度 錯誤選項

  隨機變化回覆只是增加攻擊難度，無法從根本防止敏感資訊洩漏。

• D 擴充與更新航班與票務資料來源，以提升模型的知識正確性與覆蓋率 錯誤選項

  更新資料來源改善知識品質，但與防禦惡意提示攻擊無直接關聯。

答案、題目或解析有問題？回報這題

題目 © 經濟部產業發展署，AITerms.tw 僅作教學解析使用，本站解析以 CC BY-NC-SA 4.0 授權。