為什麼 AI 會說錯話：幻覺與查證
什麼是幻覺
幻覺（Hallucination） 指的是 AI 產生了流暢、自信、但實際上不正確或根本不存在的內容。
常見的樣子：
- 引用了一本不存在的書，連 ISBN 都編得有模有樣
- 給了一個法條編號，但那一條其實是別的內容
- 說某公司在某年做了某件事，時間與事件都對不上
- 提供一個網址，點開是 404
為什麼會發生
回到上一篇的核心：模型在做的是預測最合理的下一段文字，不是查證。
當它「不知道」的時候，它不會停下來，因為它的任務從來就不是「判斷自己知不知道」， 而是「產生一段看起來合理的文字」。於是它會生成形式正確、內容虛構的東西。
換個說法：幻覺不是 bug，而是這個機制的副作用。 你能做的不是消滅它，而是學會辨識與查證。
風險分級：哪些情境最該小心
高風險（一定要查）
- 法律、醫療、財稅：法條、診斷、稅率、申報規定
- 具體數字：市佔率、統計數據、價格、日期
- 引用來源：書名、論文、報導、網址
- 人物事蹟：某人做過什麼、任職於哪裡
- 產品規格：功能是否存在、方案包含什麼
中風險（抽查即可）
- 步驟教學（流程對但細節可能過時）
- 工具操作說明（介面可能改版了）
- 翻譯（意思通常對，專有名詞要看）
低風險（可直接用）
- 腦力激盪、發想點子
- 改寫語氣、潤稿
- 摘要你自己提供的文件
- 產生格式、範本、大綱
最重要的一條判準
內容是它「從你給的資料中整理」的，風險低；是它「從記憶中回想」的，風險高。 所以把資料貼給它，比叫它自己回想安全得多。
30 秒查證流程
遇到會影響決定的內容時，跑完這四步：
1. 先問自己：這句話錯了會怎樣？
不會怎樣 → 直接用。會被打臉、會賠錢、會做錯決定 → 往下走。
2. 把具體項目挑出來
數字、日期、人名、法條、來源。這些是幻覺最愛藏的地方。
3. 反問 AI 一次
針對上面這段回答：
1. 哪些部分是你有把握的？哪些是推測的？
2. 每一個具體數字與引用，請標示出處。
3. 如果你無法確認出處，請直接標示「無法確認」。
這一步能篩掉一大半的問題——模型被要求自我檢查時，常會自己撤回虛構的內容。
4. 外部驗證
剩下的關鍵項目，用搜尋引擎或官方網站查一次。 點開連結確認真的存在，不要只看它列出來的標題。
降低幻覺的五個習慣
- 提供資料，不要考記憶 — 把文件貼進去，請它「只根據以上內容回答」。
- 允許它說不知道 — 在提示詞加一句「不確定就說不知道，不要猜」。
- 要求標示不確定性 — 「請在不確定的地方標註（待確認）」。
- 拆小步驟 — 複雜任務分段做，每段檢查一次，比最後一次抓全部容易。
- 換一個模型再問一次 — 兩個不同模型都給同樣答案，可信度較高。
一個實用的提示詞模板
請根據我提供的資料回答以下問題。
規則：
1. 只使用我提供的資料，不要補充你記憶中的資訊
2. 資料中沒有的部分，請明確寫「資料中未提及」
3. 每個結論請標註來自資料的哪一段
4. 不確定的地方請標註（待確認）
【我的資料】
（貼上你的文件）
【我的問題】
（寫下你的問題）
小結
- 幻覺是生成式 AI 的本質特性，不是偶發錯誤
- 「從你的資料整理」比「從記憶回想」安全得多
- 具體數字、引用來源、法條是重災區
- 養成反問與外部驗證的習慣，30 秒就能做完
延伸閱讀
公司內部使用時的完整規範，請見 安全與判斷力。