越獄 vs 提示詞注入
Jailbreak vs Prompt Injection
越獄 側重 通過輸入設計或提示工程來繞過 AI 模型的安全限制，使其執行原本被禁止的行為，而 提示詞注入 側重 提示詞注入是一種安全漏洞，攻擊者通過惡意設計的提示詞操控大型語言模型的行為，使其忽略或違反原始指令。。
逐項比較
| 項目 | 越獄 | 提示詞注入 |
|---|---|---|
| 一句定義 | 通過輸入設計或提示工程來繞過 AI 模型的安全限制，使其執行原本被禁止的行為 | 提示詞注入是一種安全漏洞，攻擊者通過惡意設計的提示詞操控大型語言模型的行為，使其忽略或違反原始指令。 |
| 常見標籤 | AI安全、AI倫理與治理、機器學習 | 大型語言模型、Prompt工程、AI倫理與治理、AI安全、自然語言處理 |
| iPAS 關聯度 | 未知 | 未知 |
| 考生最常問 | 為什麼很難完全防止越獄攻擊？ | 提示詞注入只會發生在聊天機器人嗎？ |