GPT 本身原生没有实时检索能力基础版本的 GPT‑4 在没有接入联网工具前它看不到最新新闻、专业数据、冷门史实。它学习的只是截止训练时间里海量人类文本里词语搭配、句式逻辑、因果表述、惯用语序。它并不理解知识不会去核对客观事实也没有现实世界认知。依靠统计概率做续写而非逻辑求证模型的运行逻辑根据前文语境推算人类文本里接下来出现概率最高的词句。它学到的是在大量文章里A 之后经常跟着 B因此输出 B并不是它确认这件客观事实成立。 很多段落里人类文献本身就存在错误、网络谣言、片面观点模型一并学习当不同资料说法矛盾时模型只会根据上下文习惯拼凑通顺答案不会甄别真伪。由此产生幻觉Hallucination的根源当问题缺少足够参考文本或是不同资料冲突、资料稀缺时语言模式为了保证语句流畅完整就会编造人名、日期、文献、案例产出逻辑通顺但完全虚假的内容。 举个通俗例子它就像熟读千万篇作文的学生遇到不会的题目凭着写作语感编出一段行文流畅的回答但内容未必属实。延伸区分两点接上搜索引擎之后的联网版 GPT只是借助外部工具获取事实素材但依旧会曲解检索内容、选择性摘抄、过度推演幻觉问题只能缓解无法根除人类和模型的差别人可以区分 “我知道” 和 “我猜测”GPT 没有自知生成出来的文字永远笃定自信很难自我意识到自己出错这也是模型谬误很难被察觉的关键。概括一句精简版大模型不懂事实只精通人类的说话方式通顺不等于真实。