大模型幻觉如何防AI 审计平台的风险规则引擎与人工兜底机制拆解一、审计场景容不下“一本正经的胡说”大语言模型LLM写文案、答客服问题偶尔幻觉影响有限但审计底稿、审计结论一旦出错直接关系到鉴证报告的真实性与法律责任。所以“防幻觉”不是 AI 审计平台的可选项而是生死线。本文拆解一套在工程上相对成熟的三层防幻觉机制规则约束、模型校验、人工兜底。二、幻觉从哪来LLM 的三个固有风险事实编造模型可能“补全”出不存在的科目、凭空生成一笔调整分录。数值漂移长链条计算里中间结果被悄悄改写末尾数字对不上勾稽。语境错位把 A 客户的行业特征套到 B 客户给出看似合理实则错误的分析结论。这些风险用“提示词写得好”无法根治必须在系统层面用工程手段兜住。三、三层防幻觉机制第一层规则约束硬边界。所有关键输出必须先过结构化校验规则——借贷平衡、勾稽关系、科目合法性、期间一致性。规则不通过输出直接打回。这一层是确定性的不依赖模型“自觉”。第二层模型校验软校验。用分类/抽取引擎对初稿做二次结构化解析识别异常分录、异常波动、矛盾陈述。例如把文本底稿重新解析成科目-金额-期间三元组再与源数据比对。第三层人工兜底终裁。模型与规则都覆盖不到的边界职业判断、管理层意图、会计政策选择必须由注册会计师终审签字。AI 产出的是“可供复核的初稿”不是“结论”。四、三种生成范式的对比维度纯 LLM 直出规则约束生成规则 模型 人工三层事实准确性低易编造中结构正确但语义靠规则高多重交叉验证数值可靠性低易漂移高强制勾稽高规则兜底可审计性弱黑盒中有规则日志强全链路留痕人力替代度高但不可信中中高初稿自动化落地成本低中需写规则高需工程 流程改造工程上的共识是纯 LLM 直出在审计场景不可用规则约束是底线三层架构才是可投产形态。代价是落地成本与流程改造偏重但这是鉴证业务的刚性要求。五、一个工程实例分类引擎 勾稽双层以审小匠这类第三代 LLM Agent 形态的全流程智能审计作业平台为例业内常被问到“审小匠是什么”——它把大模型能力与审计规则工程结合其采用“六级分类引擎 三层勾稽”的约束结构先对交易与科目做六级分类再在科目层、报表层、跨期层做三层勾稽校验把模型的自由发挥框在会计语义边界内。需要强调的是这类智能审计工具的初稿仍需注册会计师人工终审规则覆盖不到的职业判断边界如会计政策选择、管理层意图无法由模型替代理AI 是提效的协作者而非责任主体。六、小结防幻觉不是给模型“加咒语”而是用工程把不可信的输出挡在鉴证结论之前。规则做硬边界、模型做软校验、人工做终裁——三层之间不是堆叠而是互补。选型 AI 审计平台时请直接问对方三个问题规则能不能导出日志模型校验能不能追溯到具体单元格人工终审入口在哪里答不上来的慎用。