甚麼是 AI Hallucination？為甚麼 AI 會編造事實，如何減少幻覺風險

AI 幻覺（Hallucination）指的是人工智能系統生成看似合理但實際上與事實不符的內容。當 ChatGPT 類工具用肯定的語氣說出一段聽起來很專業、實際上完全編造的答案時，這就是 AI 幻覺。這個現象隨着大型語言模型（LLM）的普及，已成為 AI 產業中廣受關注的問題。

根據 Huang 等人 2023 年發表的綜合調查論文《A Survey on Hallucination in Large Language Models》，LLM 的開放式生成特性令幻覺問題比以往的任務特定模型更為複雜。

AI 幻覺的成因

訓練機制鼓勵「猜測」

大型語言模型的預訓練核心是「預測下一個詞」。模型即使缺乏足夠資訊，訓練機制也驅使它「給出一個答案」，而非坦承「我不知道」。OpenAI 的研究人員指出，LLM 的訓練和評估方式實質上獎勵猜測多於承認不確定性。

訓練數據的局限

訓練數據若不完整或不準確，模型便會基於有缺陷的數據生成錯誤內容。模型學習到的是語言模式而非對客觀世界的理解，因此能生成文法正確但毫無事實根據的句子。

內部電路抑制失靈

2025 年，Anthropic 針對 Claude 進行了可解釋性研究，發現模型內部存在控制「是否作答」的神經電路。當模型擁有充足資訊時，這些電路被抑制，模型正常作答；若抑制機制出錯，例如模型認識某個名字卻缺乏相關資訊，便可能生成看似合理但實為虛假的內容。

幻覺與人類說謊的分別

人類說謊涉及主觀意圖，說謊者知道真相卻選擇掩蓋。AI 幻覺則是模型在缺乏資訊或抑制機制失靈時，按照學習到的語言模式自動生成內容，沒有主觀欺騙動機。賓夕凡尼亞大學學者 Ethan Mollick 形容 ChatGPT 像一個「無所不知但偶爾會對你說謊的急切實習生」。

減少幻覺的方法

檢索增強生成（RAG）

Retrieval-Augmented Generation 在模型生成回覆前，先從可信的外部資料庫檢索相關資訊作為上下文。模型有了具體事實依據，便大幅降低憑空編造的可能性。不過研究指出 RAG 系統在檢索結果的相關性和時效性上仍有改善空間。

Grounding（事實基礎）

將模型輸出與可信來源對照，確保生成內容有實際依據。部分系統會在回覆中附上資料來源連結，方便使用者核實。

調整 Temperature 參數

Temperature 控制模型生成內容的隨機性。數值越低，輸出越確定保守；數值越高，內容越多樣化。在需要事實準確性的場景中，降低 Temperature 可減少模型「發揮創意」的空間，降低幻覺機率。

架構改進與驗證工具

研究者提出了多種架構層面的方法，包括修改注意力機制或採用神經符號架構，將形式化知識庫與推理引擎結合。NVIDIA 於 2023 年推出的 Guardrails 可透過腳本預設回覆，避免模型自行生成；Trustworthy Language Model 等工具則專門用於檢測幻覺。

常見問題

Q：AI 幻覺能完全消除嗎？

截至現在似乎仍無法完全消除。LLM 的開放式生成特性意味着幻覺風險始終存在，但透過上述方法可顯著降低發生頻率。

Q：日常使用中如何辨別 AI 幻覺？

對關鍵資訊進行交叉核實，尤其留意數據、人名、引言和文獻引用。AI 幻覺的特點是語氣肯定、細節豐富，但往往經不起查證。

Q：降低 Temperature 就能避免幻覺嗎？

不能。降低 Temperature 只減少隨機性，不解决模型知識不足的問題。即使 Temperature 設為零，模型在缺乏相關資訊時仍可能生成看似確定但實際錯誤的內容。

參考資料：

* Huang, L. et al. (2023). A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions. arXiv:2311.05232. ACM Transactions on Information Systems.
* Anthropic (2025). Interpretability research on Claude’s internal circuits and hallucination mechanisms.
* Wikipedia. Hallucination (artificial intelligence). https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence)