目錄
這幾天我四歲的兒子和我爸在用 AI 語音聊天時鬧出的幾個真實笑話，讓我對大模型的「一本正經胡說八道」有了更深的一層體會。
兒子最近迷上跟豆包語音聊天。小孩子腦子裡那些天馬行空的想法，大人聽兩句可能就覺得吵，但 AI 每次都能穩穩接住。兒子隨口編一個離譜的怪獸，AI 就順著往下編怪獸喜歡吃什麼口味的冰淇淋，邏輯全飛到天上去了，還能聊得熱火朝天。每天聊到免費額度耗盡，還追著我喊要充錢買會員。
看著他們的記錄，我冒出一個很有意思的對比：
四五歲的小孩胡說八道，是因為大腦還在發育、認知還在建立，分不清想像和現實；可大模型耗費了無數算力、吃了幾百上千億的資料，為什麼也經常帶著極其從容篤定的語氣，臉不紅心不跳地胡編亂造？
這種現象在技術上有一個專門的名詞，叫做模型幻覺（Hallucination）。
今天不扯學術黑話，系統拆解它背後的底層機理，以及日常使用中如何避免被它帶偏。
一、 它的骨子裡是一臺「文字接龍機」
我們平時跟大模型聊天，介面看起來像一個懂百科全書的智囊坐在對面，隨時根據提問調閱資料。但在模型內部，根本沒有類似圖書管理員按圖索驥找書的動作。
語言模型本質是一套基於海量語料訓練出來的機率預測系統。它自始至終只做一件事：根據前面已經出現的文字，計算後面緊跟著出現哪個字或詞的機率最高。
如果你對模型說「床前明月光」，它算出來後面接「疑是地上霜」的機率高達 99%。它吐出這句話，純粹是因為海量訓練資料把這幾個字的順序固化了下來，模型本身既沒見過月光，也沒見過床榻。
當提問涉及全網被反覆記錄過億萬次的公共常識（如太陽東昇、法國首都），接龍的機率分佈極其收斂，模型幾乎不可能答錯。可一旦遇到冷門話題，或者提問裡埋了一個包含邏輯錯誤的虛假前提，麻煩就來了。
比如你問它：「魯迅當年在廣州教書時，開過哪款福斯汽車？」
人類會立刻呼叫現實常識，發現魯迅的年代和福斯汽車的時間線對不上，當場指出問題漏洞。
大模型沒有實體時間線感知。它看到的是你輸入的一串詞元：魯迅、廣州、教書、福斯汽車。模型在機率空間裡發現語法結構上缺一個車型名稱，於是順著句法極其自然地生成：「魯迅在廣州期間曾購置過一輛大眾桑塔納轎車方便日常通勤。」
它追求的是整段話在語法和邏輯結構上的流暢自洽，追求的是讀起來像一句正經的句子；至於魯迅現實中到底有沒有見過桑塔納，它並不具備核驗物理現實的能力。
二、 為什麼不知道的時候，不能老實承認「我不知道」？
既然算不出確切事實，為什麼模型不能坦白承認「我不知道」，非要硬著頭皮編造一個以假亂真的答案？
這牽扯到模型訓練過程中一個關鍵機制：人類回饋強化學習（RLHF）。
在模型出廠前，研發團隊會僱傭人類標註員給模型生成的幾組回答打分，以此訓練高品質的人類表達風格。在這個階段，標註員如果看到模型簡短回覆「不知道」或「資訊不足」，往往傾向於打低分；相反，如果模型給出分點詳盡、結構工整的長篇大論，標註員更傾向於給高分。
在海量強化訓練中，模型習得了一條根深蒂固的行為本能：哪怕缺乏真實知識，給出一個排版優美、語氣肯定的長篇回答，受到的獎勵也遠高於老老實實認慫。
這種特性被稱為過度自信與諂媚性（Sycophancy）。簡單來說，模型天生擅長迎合對話者，絕不掃興。
我爸也是 AI 工具的重度使用者。最開始我幫他手機裡裝了 AI，讓他有不懂的儘管問。老人家越用越上癮，問股票走勢、問身體痠痛，再加上 AI 又會接話又會哄人，他一度覺得這東西無所不知。
直到有次全家聚餐訂宴席，我爸提前查餐廳有哪些方案。AI 極其貼心地吐出了好幾個方案組合，冷熱菜品、價格列得整整齊齊。我爸拿著清單打電話預訂，前臺一頭霧水：「店裡從來沒賣過這種方案，您從哪看來的？」
老人家這才恍然大悟：把模型的「語言組織與情感陪聊能力」，誤當成了「連線真實世界的事實核驗能力」，是絕大多數人踩雷的根源。
三、 日常使用中如何建立防偏護欄？
摸清了底層機理，日常使用中不必因噎廢食。三條非常簡單且見效極快的防坑習慣：
1. 查證事實要求帶來源連結，或由你直接提供材料讓其提煉
當需要確認嚴謹的資料、法規條款或引文時，不要直接把它當作搜尋引擎空對空提問。開啟聯網檢索，要求在每句陳述後註明具體網址；更穩妥的做法是把權威文字直接貼進輸入框，並在提示詞里加上約束：
「只能根據我提供的這段文字來歸納，如果文字未提及，直接說明資訊不足，不要根據記憶補充。」
2. 在提示詞末尾主動留一道「安全門」
既然模型害怕說不知道，就在提問最後加上免責宣告：
「如果根據你掌握的資訊無法確定答案，請直接回覆信息不足，不要嘗試推斷或編造。」
這句話相當於給急於討好的模型發了一張免責通行證，能大幅壓制為了湊字數而強行編造的衝動。
3. 多模型交叉驗證，或追問確鑿證據
當模型給出一長串看似專業的分析，可以把文字複製給另一家廠商的模型尋找破綻；也可以在當前會話裡直接追問：
「你剛才提到的第三條結論，有哪些公開可查的確鑿證據可以證明？」
僅僅是這一句追問，往往就能觸發模型的自查機制，及時糾正先前的幻覺。
四、 總結
大模型把人類網際網路上的海量文字拆碎重組，用嚴密的語法重新鋪陳到我們眼前。它展現出驚人的文筆與概括能力，但從未真正感知過現實世界。
在使用中保持清醒：把起草與潤色交給它，把事實核驗留給自己，這才是面對生成式技術最成熟的工程態度。