跳至主要内容

AI 為什麼會一本正經地說錯話？幻覺的辨識與 30 秒查證流程

· 閱讀時間約 4 分鐘
KD Chang
KD Chang
Builder, Curator & Educator

你有沒有遇過這種情況：AI 給了你一個法條編號、一份研究報告、一個網址， 講得頭頭是道，結果你去查——根本不存在。

這叫「幻覺」。它不是偶發的 bug，而是這套技術的本質特性。

為什麼會發生​

AI 在做的事是預測最合理的下一段文字，不是查證。

當它「不知道」的時候，它不會停下來，因為它的任務從來就不是「判斷自己知不知道」， 而是「產生一段看起來合理的文字」。

於是它會生成形式完全正確、內容完全虛構的東西： 編號格式對的法條、有模有樣的 ISBN、看起來很像真的 DOI。

換個說法：幻覺不是 bug，是副作用。 你能做的不是消滅它，而是學會辨識與查證。

風險分級：哪些情境最該小心​

高風險（一定要查）​

  • 法律、醫療、財稅：法條、診斷、稅率、申報規定
  • 具體數字：市佔率、統計數據、價格、日期
  • 引用來源：書名、論文、報導、網址
  • 人物事蹟：某人做過什麼、任職於哪裡
  • 產品規格：某功能是否存在、方案包含什麼

中風險（抽查即可）​

步驟教學、工具操作說明、翻譯的專有名詞。

低風險（可直接用）​

腦力激盪、改寫語氣、潤稿、摘要你自己提供的文件、產生格式範本。

最重要的一條判準​

內容是它「從你給的資料中整理」的，風險低； 是它「從記憶中回想」的，風險高。

所以：把資料貼給它，比叫它自己回想安全得多。

這也是為什麼 AI 知識庫工具（像 NotebookLM）值得用—— 它只根據你上傳的資料回答，而且附出處。

30 秒查證流程​

1. 先問自己：這句話錯了會怎樣？​

不會怎樣 → 直接用。會被打臉、會賠錢、會做錯決定 → 往下走。

這一步最重要，因為它幫你把有限的查證力氣花在對的地方。

2. 把具體項目挑出來​

數字、日期、人名、法條、來源。這些是幻覺最愛藏的地方。

3. 反問 AI 一次​

針對上面這段回答：
1. 哪些部分是你有把握的？哪些是推測的？
2. 每一個具體數字與引用，請標示出處。
3. 如果無法確認出處，請直接標示「無法確認」。

這一步能篩掉一大半的問題——模型被要求自我檢查時，常會自己撤回虛構的內容。

4. 外部驗證​

剩下的關鍵項目，用搜尋引擎或官方網站查一次。 點開連結確認真的存在，不要只看它列出來的標題。

降低幻覺的五個習慣​

  1. 提供資料，不要考記憶 — 把文件貼進去，請它「只根據以上內容回答」
  2. 允許它說不知道 — 加一句「不確定就說不知道，不要猜」
  3. 要求標示不確定性 — 「請在不確定的地方標註（待確認）」
  4. 拆小步驟 — 複雜任務分段做，每段檢查一次
  5. 換一個模型再問一次 — 兩個不同模型都給同樣答案，可信度較高

一個可以直接用的模板​

請根據我提供的資料回答以下問題。

規則：
1. 只使用我提供的資料，不要補充你記憶中的資訊
2. 資料中沒有的部分，請明確寫「資料中未提及」
3. 每個結論請標註來自資料的哪一段
4. 不確定的地方請標註（待確認）

【我的資料】（貼上）
【我的問題】（寫下）

一個建議的練習​

現在就去問 AI 一個你非常熟悉的專業領域的細節問題， 請它提供三份參考資料，然後一個一個點開。

親眼看過一次它編造來源，你的查證習慣就會自動長出來。 這比讀十篇文章都有效。

接下來：