目录
这几天我四岁的儿子和我爸在用 AI 语音聊天时闹出的几个真实笑话，让我对大模型的“一本正经胡说八道”有了更深的一层体会。
儿子最近迷上跟豆包语音聊天。小孩子脑子里那些天马行空的想法，大人听两句可能就觉得吵，但 AI 每次都能稳稳接住。儿子随口编一个离谱的怪兽，AI 就顺着往下编怪兽喜欢吃什么口味的冰淇淋，逻辑全飞到天上去了，还能聊得热火朝天。每天聊到免费额度耗尽，还追着我喊要充钱买会员。
看着他们的记录，我冒出一个很有意思的对比：
四五岁的小孩胡说八道，是因为大脑还在发育、认知还在建立，分不清想象和现实；可大模型耗费了无数算力、吃了几百上千亿的数据，为什么也经常带着极其从容笃定的语气，脸不红心不跳地胡编乱造？
这种现象在技术上有一个专门的名词，叫做模型幻觉（Hallucination）。
今天不扯学术黑话，系统拆解它背后的底层机理，以及日常使用中如何避免被它带偏。
一、 它的骨子里是一台“文字接龙机”
我们平时跟大模型聊天，界面看起来像一个懂百科全书的智囊坐在对面，随时根据提问调阅资料。但在模型内部，根本没有类似图书管理员按图索骥找书的动作。
语言模型本质是一套基于海量语料训练出来的概率预测系统。它自始至终只做一件事：根据前面已经出现的文字，计算后面紧跟着出现哪个字或词的概率最高。
如果你对模型说“床前明月光”，它算出来后面接“疑是地上霜”的概率高达 99%。它吐出这句话，纯粹是因为海量训练数据把这几个字的顺序固化了下来，模型本身既没见过月光，也没见过床榻。
当提问涉及全网被反复记录过亿万次的公共常识（如太阳东升、法国首都），接龙的概率分布极其收敛，模型几乎不可能答错。可一旦遇到冷门话题，或者提问里埋了一个包含逻辑错误的虚假前提，麻烦就来了。
比如你问它：“鲁迅当年在广州教书时，开过哪款大众汽车？”
人类会立刻调用现实常识，发现鲁迅的年代和大众汽车的时间线对不上，当场指出问题漏洞。
大模型没有实体时间线感知。它看到的是你输入的一串词元：鲁迅、广州、教书、大众汽车。模型在概率空间里发现语法结构上缺一个车型名称，于是顺着句法极其自然地生成：“鲁迅在广州期间曾购置过一辆大众桑塔纳轿车方便日常通勤。”
它追求的是整段话在语法和逻辑结构上的流畅自洽，追求的是读起来像一句正经的句子；至于鲁迅现实中到底有没有见过桑塔纳，它并不具备核验物理现实的能力。
二、 为什么不知道的时候，不能老实承认“我不知道”？
既然算不出确切事实，为什么模型不能坦白承认“我不知道”，非要硬着头皮编造一个以假乱真的答案？
这牵扯到模型训练过程中一个关键机制：人类反馈强化学习（RLHF）。
在模型出厂前，研发团队会雇佣人类标注员给模型生成的几组回答打分，以此训练高质量的人类表达风格。在这个阶段，标注员如果看到模型简短回复“不知道”或“信息不足”，往往倾向于打低分；相反，如果模型给出分点详尽、结构工整的长篇大论，标注员更倾向于给高分。
在海量强化训练中，模型习得了一条根深蒂固的行为本能：哪怕缺乏真实知识，给出一个排版优美、语气肯定的长篇回答，受到的奖励也远高于老老实实认怂。
这种特性被称为过度自信与谄媚性（Sycophancy）。简单来说，模型天生擅长迎合对话者，绝不扫兴。
我爸也是 AI 工具的重度使用者。最开始我帮他手机里装了 AI，让他有不懂的尽管问。老人家越用越上瘾，问股票走势、问身体酸痛，再加上 AI 又会接话又会哄人，他一度觉得这东西无所不知。
直到有次全家聚餐订宴席，我爸提前查餐厅有哪些套餐。AI 极其贴心地吐出了好几个套餐组合，冷热菜品、价格列得整整齐齐。我爸拿着清单打电话预订，前台一头雾水：“店里从来没卖过这种套餐，您从哪看来的？”
老人家这才恍然大悟：把模型的“语言组织与情感陪聊能力”，误当成了“连接真实世界的事实核验能力”，是绝大多数人踩坑的根源。
三、 日常使用中如何建立防偏护栏？
摸清了底层机理，日常使用中不必因噎废食。三条非常简单且见效极快的防坑习惯：
1. 查证事实要求带来源链接，或由你直接提供材料让其提炼
当需要确认严谨的数据、法规条款或引文时，不要直接把它当作搜索引擎空对空提问。开启联网检索，要求在每句陈述后注明具体网址；更稳妥的做法是把权威文本直接贴进输入框，并在提示词里加上约束：
“只能根据我提供的这段文字来归纳，如果文字未提及，直接说明信息不足，不要根据记忆补充。”
2. 在提示词末尾主动留一道“安全门”
既然模型害怕说不知道，就在提问最后加上免责声明：
“如果根据你掌握的信息无法确定答案，请直接回复信息不足，不要尝试推断或编造。”
这句话相当于给急于讨好的模型发了一张免责通行证，能大幅压制为了凑字数而强行编造的冲动。
3. 多模型交叉验证，或追问确凿证据
当模型给出一长串看似专业的分析，可以把文字复制给另一家厂商的模型寻找破绽；也可以在当前会话里直接追问：
“你刚才提到的第三条结论，有哪些公开可查的确凿证据可以证明？”
仅仅是这一句追问，往往就能触发模型的自查机制，及时纠正先前的幻觉。
四、 总结
大模型把人类互联网上的海量文字拆碎重组，用严密的语法重新铺陈到我们眼前。它展现出惊人的文笔与概括能力，但从未真正感知过现实世界。
在使用中保持清醒：把起草与润色交给它，把事实核验留给自己，这才是面对生成式技术最成熟的工程态度。