完整定義
AI 幻覺是指大型語言模型(LLM)產生不真實、不一致或與事實相悖的內容。這種現象可能源於訓練資料的偏差、模型對上下文的誤解或生成過程中的隨機性。在 iPAS 考試中,理解幻覺的成因和緩解方法,對於評估 LLM 的可靠性和安全性至關重要。
白話說明
你有沒有遇過 AI 說得超像真的,結果一查全是編的?
你可以把 AI 幻覺想成模型自己把空白補成故事。
它不是故意騙人,而是模型在沒有把握時仍然繼續生成,看起來流暢,內容卻可能完全不對。
記住這句
說得很像真的,不代表是真的。
比喻:AI 幻覺就像一個很會說故事的人 -- 他講得頭頭是道,聽起來很有道理,但仔細一查,內容卻是憑空捏造,完全沒有事實根據。
容易混淆
幻覺 vs 錯誤資訊
幻覺是模型自己編出不存在的內容
錯誤資訊可能是人或系統傳錯
最關鍵的區別是無中生有,還是傳播失真
幻覺 vs 偏見
偏見是輸出方向系統性歪掉
幻覺是內容本身可能根本不存在
最關鍵的區別是有但歪,還是根本編造
實際案例
虛構引用
法律文件或論文摘要裡,如果 AI 生成不存在的案例或論文名稱,這就是典型幻覺。
產品規格亂答
客服模型把不存在的規格講得很肯定,表面上很順,實際上就是幻覺在作怪。
深入了解
大型語言模型的目標是預測下一個詞,不是自動查證事實。
RAG、查核工具、低溫度和人工審核都能降低風險,但很難把幻覺完全消掉。
中英對照與常見說法
有研究者反對「幻覺」這個譯法,理由是幻覺在醫學上指的是感知到不存在的事物,而語言模型並沒有感知,它是在生成統計上合理但事實上錯誤的內容。Confabulation 在神經科學裡指「不自覺地編造記憶來填補空白」,跟模型的行為更接近。不過幻覺已經是通行用語。
- 說法
- AI 幻覺
- 出現場合
- 台灣媒體與技術文章最常見的說法
- 說法
- 幻覺、模型幻覺
- 出現場合
- 簡稱
- 說法
- AI 幻觉
- 出現場合
- 簡體寫法
- 說法
- Hallucination
- 出現場合
- 英文原名,論文與技術文件用這個字
- 說法
- Confabulation(虛談)
- 出現場合
- 部分研究者偏好的替代詞,認為比幻覺更精確
- 說法
- 一本正經地胡說八道
- 出現場合
- 中文網路上的口語形容
分成兩類,處理方式不同
忠實性幻覺比較好處理,因為有明確的比對基準(給定的文件)。事實性幻覺難得多,因為需要一個外部的真實世界知識來源。
- 類型
- 事實性幻覺
- 定義
- 說出跟真實世界不符的內容
- 例子
- 編造不存在的論文、把兩個人的經歷搞混
- 類型
- 忠實性幻覺
- 定義
- 說出跟提供的來源不符的內容
- 例子
- 摘要時加入原文沒有的資訊
為什麼會發生
訓練目標本來就不是說實話。 語言模型學的是「下一個詞出現的機率」,流暢與正確是兩件事。一個流暢但錯誤的句子,在訓練目標上不一定比不流暢但正確的句子差。
訓練資料本身有錯、有矛盾、有過時資訊。
模型沒有「我不知道」的自然出口。 除非特別訓練過,模型面對不確定的問題傾向給出一個答案而不是承認不知道。RLHF 有時反而加重這件事,因為人類標註者常常偏好看起來有自信的回答。
越冷門的問題越容易編。 訓練資料裡出現次數少的實體,模型只有模糊的統計印象,容易把相近的東西混在一起。
實務上怎麼壓低
檢索增強生成(RAG):先檢索出可靠文件,要求模型只根據文件回答並附上出處。這是目前最有效的單一手段。
要求引用並驗證引用:讓模型標出每一句話的來源段落,再用程式檢查那段話是否真的存在於來源。
降低隨機性:需要事實正確的任務把 temperature 調低。
自我一致性檢查:同一個問題問多次,答案不一致的部分就是高風險區。
交給人審核高風險輸出:醫療、法律、財務等領域,目前沒有任何技術手段可以取代這一步。
要注意的是,這些手段都是降低發生率,沒有任何方法能保證完全消除。任何宣稱「零幻覺」的說法都要看它是怎麼定義與量測的。
情境判斷
Q1: AI 給你的論文引用,你要不要直接照抄?
不要,先查證來源是否真的存在。
Q2: 同樣是回答錯誤,為什麼幻覺特別麻煩?
因為它常常語氣很肯定,讓人更容易信以為真。
iPAS 考題
出題方向:常考幻覺的定義、成因與常見緩解方法,特別是 RAG。
題目: 大型語言模型產生 AI 幻覺的主要原因是什麼?
答案: 模型依照機率生成文字,沒有內建事實查證能力。
常見問題
目前很難,只能盡量降低發生率。
因為它被訓練成盡量給出有幫助的回應,不是自然學會拒答。
不會,新模型通常更穩,但仍需要查證。
出現在這些考古題
官方公告試題的逐題解析裡,有 6 題把AI 幻覺列為延伸術語,這裡列出 5 題。
立即測驗
想測試你對 AI 幻覺 的掌握程度?用考古題作答
相關術語
來源
這個術語目前沒有標註外部來源。
考試範圍:iPAS AI 應用規劃師評鑑內容範圍參考(115.02 更新),經濟部產業人才能力鑑定,實際考試內容以官方公告為準。
其他格式:Markdown 版本