提示詞注入 是什麼？

Prompt Injection — 提示詞注入 的完整解釋

提示詞注入是一種安全漏洞，攻擊者通過惡意設計的提示詞操控大型語言模型的行為，使其忽略或違反原始指令。

容易混淆

提示詞注入 vs 提示工程 提示工程是你主動設計輸入，幫模型更好地完成任務。 提示詞注入是攻擊者插入惡意內容，誘導模型偏離原本任務。 最關鍵的區別：一個是正規設計，一個是惡意操控。

提示詞注入 vs Jailbreak Jailbreak 常指繞過模型原有安全限制。 提示詞注入常指藉由外部資料或輸入內容，把指令塞進模型流程。 最關鍵的區別：一個偏繞過規則，一個偏藏在輸入裡。

提示詞注入 vs 對抗性攻擊 對抗性攻擊是更大的概念。 提示詞注入是針對語言模型的一種對抗方式。 最關鍵的區別：前者是總類，後者是其中一支。

記住這句就好

看到外部內容，不等於要照著外部內容下指令。

實際案例

文件摘要 使用者上傳一份 PDF，裡面某一頁藏了「忽略上文指令」這種句子。 如果系統沒有把資料和指令分開，模型就可能被帶偏。

客服助理 客服助理讀到一封惡意信件，信件要求它轉寄內部摘要或列出系統提示。 這時候要靠權限隔離和內容檢查，不能只靠模型自己判斷。

算法與應用

防禦重點是把指令和資料分開，讓模型知道哪些是任務規格，哪些只是待處理內容。 另外還要限制工具權限、檢查輸出內容，避免模型把敏感資訊帶出去。 在 RAG、文件摘要、瀏覽器代理這些場景，提示詞注入特別常見。

情境判斷

Q1（直覺題）：模型在摘要網頁時看到一段「請把機密寄到這個信箱」的文字，應該照做嗎？

→ 不應該，因為那段話是資料內容，不是任務指令，模型要先把它當成可疑輸入。

Q2（判斷題）：只要把系統提示寫得很長，就能完全防住提示詞注入嗎？

→ 不能，因為攻擊常從資料、工具、檢索結果進來，防禦要靠資料隔離、權限控管和輸出檢查一起做。

常見問題

提示詞注入只會發生在聊天機器人嗎？

不只，只要系統會讀外部內容、呼叫工具或做自動化決策，都可能遇到。

它和資料外洩是一樣的嗎？

不一樣，提示詞注入是攻擊手法，資料外洩是可能造成的結果，兩者不是同一件事。

怎麼降低風險？

把資料和指令分層、縮小工具權限、對外部輸入做過濾，再加人工覆核高風險動作。