幻覺 (AI Hallucination)
指人工智慧語言模型在回答問題時,生成看似合理、語句流暢,但實際上毫無根據、完全捏造或脫離事實的資訊現象。
AI 幻覺(Hallucination)是指大型語言模型在生成文字時,給出了內容虛構、缺乏事實根據或與提供資料不符的回答,卻以極度自信且流暢的語氣陳述出來的現象。這類回答往往在文法上無懈可擊,讀起來相當專業,但核心事實卻純屬捏造。
這種現象是生成式人工智慧在各行各業落地時最需要防範的品質與安全風險。使用者若沒有查核便直接採用,可能在商業文案、客服回覆或研究分析中引發嚴重的資訊錯誤。
為什麼語言模型會胡言亂語?
大型語言模型的運作本質是根據機率預測下一個最合適的詞彙,而不是從連線資料庫中檢索客觀真理。模型本身並不知道何謂真實,它學會的是字詞之間的關聯性與說話風格。當提問涉及冷門主題、缺乏具體上下文,或者問題本身帶有錯誤假設時,模型往往會順著提問者的語境向下編寫,而非停下來質疑前提。
另一個常見因素與模型的微調機制有關。若在訓練過程中,系統傾向鼓勵模型給出完整、具體的答案,而不是坦承自己不清楚,模型便可能在資料不足時選擇瞎掰細節,以滿足使用者的詢問需求。
在地生活中的幻覺範例
假設台北一家行銷團隊正在替迪化街的一間傳統烏魚子老店撰寫品牌故事,並請生成式工具整理創立背景。由於網路上公開紀錄零散,模型很可能會自動補齊細節,寫出創辦人姓名、在日治時期某年取得特許登記證,甚至聲稱該店曾榮獲台北特色伴手禮特優獎。
這段文案文字典雅,排版工整,完全符合百年老店的敘事調性。然而,只要向店家後代核對,就會發現年份差了十幾年、創辦人名字完全拼錯,而該項伴手禮獎項甚至根本不曾存在。這就是標準的 AI 幻覺,外觀看似權威可靠,實則充滿漏洞。
如何有效檢查與防範 AI 幻覺
要確保工作流程的產出品質,不能只憑文章讀起來順不順暢來判斷,必須建立條理分明的查驗機制:
- 拆解具體宣稱:將文本中的人名、公司名稱、創立年份、法規條文與地址標記出來,逐項進行事實核對。
- 檢驗原始來源:如果模型附上了參考網址或文獻名稱,務必親自點開該頁面,確認該網址真實存在且記載了完全相符的內容,避免模型捏造不存在的論文或政府公報。
- 手動驗算數據:語言模型並不擅長精確算術。對於報告中的成長率、財務數字或單位換算,必須透過試算表重新計算。
- 避免詢問同一模型:追問原本的對話視窗「你確定這是真的嗎?」並不是獨立驗證,模型很可能只會給出另一段聽起來合理的藉口。
從提示詞著手,降低胡言亂語機率
在撰寫提示詞時,可以給予模型明確的約束條件。舉例來說,在處理合約或公司規章時,可以明確要求:僅根據下方提供的資料回答問題。若資料中未提及相關內容,請直接回覆「資料未載明」,嚴禁推測或補充未提供的事實。
明確劃分創意發想與事實摘要的任務邊界,是減少錯誤的最有效做法。撰寫宣傳標語可以容許天馬行空的聯想,但面對營業額、法規規範或產品規格等客觀資訊,必須要求絕對的事實依據,才能確保產出的安全與專業。
常見問題
AI 幻覺是什麼意思?
AI 幻覺指語言模型在生成內容時捏造事實、編造不存在的數據或文獻,卻依然以流暢且自信的語氣回覆的現象。
為什麼 AI 明明不知道答案,卻還是會瞎掰?
因為語言模型的本質是計算字詞接續的機率,而非理解真實世界;當它缺乏對應資料時,為了維持句意流暢與回答完整性,就會自動拼湊看似合邏輯的字詞。
導入 RAG 檢索增強生成可以完全消除幻覺嗎?
無法百分之百消除。RAG 雖然能提供外部資料庫供模型參考,但模型在閱讀長文、理解表格或組織最終文字時,依然可能誤讀上下文並產生偏差。
如何寫出能減少 AI 幻覺的提示詞?
提供具體參考文本,並在指令中明確要求「僅依據所附文本作答,若找不到答案請回覆不知道」,嚴格限制模型的自由發揮空間。
