某航空公司導入生成式 AI 聲控客服，提供航班與票務查詢。有人員透過惡意提示，試圖讓系統洩漏內部安檢流程。在此情境中，下列何者為降低提示攻擊（Prompt Injection）風險的最佳策略？
iPAS 考題解析
某航空公司導入生成式 AI 聲控客服，提供航班與票務查詢。有人員透過惡意提示，試圖讓系統洩漏內部安檢流程。在此情境中，下列何者為降低提示攻擊（Prompt Injection）風險的最佳策略？
- A. 導入輸入檢測與回應審核流程，防止敏感指令被執行 ✓ 正確答案
- B. 限制 AI 可回應的主題範圍，使系統僅回答非敏感的航班與票務查詢，避免處理內部或敏感流程資訊
- C. 隨機變化回覆內容，讓攻擊者難以預測回應行為以增加攻擊難度
- D. 擴充與更新航班與票務資料來源，以提升模型的知識正確性與覆蓋率
詳細解析
面對惡意提示攻擊，最佳策略是在輸入端和輸出端都建立防護：導入輸入檢測識別惡意提示，搭配回應審核流程防止敏感資訊被輸出。這種雙重防線能有效降低 Prompt Injection 的風險。
出題年份：114 難度：★★☆