iPAS 考題解析
某航空公司導入生成式AI聲控客服，提供航班與票務查詢。有人員透過惡意提示，試圖讓系統洩漏內部安檢流程。在此情境中，下列何者為降低提示攻擊（Prompt Injection）風險的最佳策略？
初級 生成式AI應用與規劃
難度：中等 ★★☆
考試範圍定位
- 考試等級
- 初級能力鑑定
- 考試科目
- 生成式 AI 應用與規劃
- 知識主題
- 生成式 AI 應用領域與工具使用
- 能力指標
- 如何善用生成式 AI 工具（L12202）
本題屬於 iPAS AI 應用規劃師初級能力鑑定「生成式 AI 應用與規劃」科目中的「生成式 AI 應用領域與工具使用」範疇， 對應的能力指標為「如何善用生成式 AI 工具」，涵蓋提示工程（提示詞框架、設計與優化）、RAG、AI 工具整合等核心知識點。 考生在準備這個範疇時，需要掌握相關的理論基礎與實務應用。
題目與選項
某航空公司導入生成式AI聲控客服，提供航班與票務查詢。有人員透過惡意提示，試圖讓系統洩漏內部安檢流程。在此情境中，下列何者為降低提示攻擊（Prompt Injection）風險的最佳策略？
- A. 導入輸入檢測與回應審核流程，防止敏感指令被執行； ✓ 正確答案
- B. 限制AI可回應的主題範圍，使系統僅回答非敏感的航班與票務查詢，避免處理內部或敏感流程資訊；
- C. 隨機變化回覆內容，讓攻擊者難以預測回應行為以增加攻擊難度；
- D. 擴充與更新航班與票務資料來源，以提升模型的知識正確性與覆蓋率
詳細解析
正確答案：A. 導入輸入檢測與回應審核流程，防止敏感指令被執行；
導入輸入檢測與回應審核流程是防止 Prompt Injection 攻擊的最佳策略，能主動過濾惡意指令。
各選項逐一解析
理解每個選項為什麼對或錯，是真正掌握這個知識點的關鍵。以下逐一分析每個選項的含義與判斷依據。
A. 導入輸入檢測與回應審核流程，防止敏感指令被執行； （正確）
導入輸入檢測（如過濾惡意關鍵字、指令）與回應審核流程（檢查輸出是否包含敏感資訊），是防止提示攻擊最有效的方法，能主動識別並阻擋惡意指令或洩漏。
B. 限制AI可回應的主題範圍，使系統僅回答非敏感的航班與票務查詢，避免處理內部或敏感流程資訊； （不正確）
限制 AI 可回應的主題範圍是輔助措施，但攻擊者可能透過巧妙的提示繞過主題限制，仍有機會提取敏感資訊，不夠全面。
C. 隨機變化回覆內容，讓攻擊者難以預測回應行為以增加攻擊難度； （不正確）
隨機變化回覆內容會降低服務品質，且無法阻止攻擊者透過系統性嘗試或特定提示來獲取敏感資訊，不是有效的安全策略。
D. 擴充與更新航班與票務資料來源，以提升模型的知識正確性與覆蓋率 （不正確）
擴充與更新航班與票務資料來源，主要目的是提升模型的知識正確性與覆蓋率，與防禦惡意提示注入攻擊的安全性問題無直接關聯。
延伸學習
本題尚未連結特定術語，你可以從以下常見主題開始探索相關知識。
中等題備考建議
- ▶ 本題屬於中等難度，需要理解概念之間的關聯與應用情境，不能只靠死背定義。
- ▶ 中等難度的題目常考「為什麼」和「怎麼用」，建議整理各技術的優缺點比較表。
- ▶ 練習時注意錯誤選項的陷阱設計，很多時候錯誤選項只有一兩個字的差異，需要仔細辨別。
- ▶ 建議用「費曼學習法」，嘗試向別人解釋這道題的解題思路，能講清楚就代表真正理解了。
同主題考題練習
以下題目與本題屬於相同的考試範疇，建議一併練習以加強對該主題的掌握程度。
能使用 DALL-E-2 生成各式逼真的圖片，最關鍵的應用技術為何？
初級 生成式AI應用與規劃 難度 ★★☆ 114 年
在 AI 應用設計中，Model Context Protocol（MCP）與檢索增強生成（RAG）都能擴展模型的能力，但兩者的核心差異主要為下列何者？
初級 生成式AI應用與規劃 難度 ★★☆ 114 年
某金融機構導入檢索增強生成（Retrieval-Augmented Generation, RAG）模型，用於客服文件查詢與自動回覆。由於大型模型運算成本過高，若考慮引入知識蒸餾（Knowledge Distillation, KD）技術，下列何者為帶來的主要效益？
初級 生成式AI應用與規劃 難度 ★★☆ 114 年
iPAS AI 應用規劃師認證簡介
iPAS AI 應用規劃師能力鑑定是經濟部產業發展署推動的國家級 AI 證照制度， 分為「初級」與「中級」兩個等級。初級考試包含「人工智慧基礎概論」和「生成式 AI 應用與規劃」兩個科目， 著重基本概念的理解與應用。中級考試涵蓋「AI 技術應用與規劃」「大數據處理分析與應用」「機器學習技術與應用」三個科目， 要求考生具備更深入的技術知識與實務能力。 本題來自初級考試範圍，適合正在準備初級認證的考生練習。
開始準備 iPAS 考試
本題來自 iPAS AI 應用規劃師初級考試。 想通過 iPAS 認證？從完整題庫練習開始，搭配術語詞典與備考攻略，系統化提升你的 AI 知識。