幻觉、知识截止与多模态：边界的由来

模型被问到一个不知道的问题时，机制上不会「停下来承认不知道」，而是继续执行它的唯一职责：预测一个最像答案的词。于是一段流畅、自信、内容虚构的回答诞生了——这就是幻觉。 关键认知：幻觉不是程序出错，是生成机制的副产品。指望「下一个版本修复」是不可能的，只能靠工程手段防御： 要求给出依据：让它标注每个论断来自输入材料的哪一段。 限定材料范围：「只根据以下资料回答，资料中没有就写『未提及』」。 人工核对关键事实：人名、数字、引用、金额，逐个回到来源验证。 防御做得好，幻觉率可以压到很低的实用水平；宣称归零的，要么不懂，要么在骗你。

模型的知识来自训练时的语料，语料有个终点——比如「训练数据截至某年某月」。那个日期之后的世界，模型默认一无所知。 表现为两种症状：对新事件沉默，或者更危险地，用旧知识自信地「脑补」。你问一个刚发布的产品，它可能一本正经地介绍一个并不存在的型号。 补救路径只有两条： 联网搜索：让产品在回答前先查最新信息； 把资料塞进上下文：把新闻、文档直接贴进对话。 判断口诀：涉及「最近」的一切信息，默认模型不知道，除非你把「最近」递给它。

文本模型本来只认文字。让它们看图，是后来「加装」的能力：把图像转换成模型能处理的表示，再和文字一起送进去。 加装方式决定了看得多细。目前的普遍表现：看懂整体内容和布局没问题；读照片里的场景、图表的趋势也可靠；但密集小字、精确数字、复杂表格的单元格级精度，仍然时常出错。 实操守则：让模型看图可以，但凡是要抄录图中文字或数字的任务（发票、报表、截图数据），务必人工复核原图。多模态扩展了它的感官，没有免除你的验收。