做过智能客服的同学还有做过企业知识库助手的同学大概率都碰到过这么一个场景。就是用户兴致勃勃地问了一个问题然后系统去检索了一圈结果啥也没搜到。那这个时候该怎么办呢如果说放任模型在那里自由发挥的话它很有可能就在那里一本正经地胡说八道。这个就是大家经常说的幻觉问题。而且呢对于那种依赖真实知识的场景比如说企业制度啊、产品参数啊、法律条款啊之类的一句编造出来的错误答案它带来的代价可能比直接说我不知道要大得多了。所以今天就来聊一下当检索不到的时候到底应该怎么去做这个兜底。✦ ✦ ✦一、先别急着放弃检索层其实还能再抢救一下很多时候所谓的检索不到它其实并不是真的没有答案而是你这个问题没有问对。可以试试去改写一下 query。用户的输入往往都是比较口语化的也比较模糊。比如说用户问这个咋报销啊但是知识库里面写的是差旅费报销流程。这种情况下你直接去检索大概率是扑空的。所以呢可以让模型先去做一次 query 的改写或者说把问题拆分一下然后再去检索一次。具体来说的话有这么几个方向可以做一个是补全同义词和行业术语。另一个是把长句子拆成几个子问题然后分别去检索。还有一个是去掉那些无关的限定词把检索范围给放宽一些。然后是混合检索这个事情不要只靠向量。纯向量检索对于那种语义相近但是用词差异比较大的内容确实是比较友好的。但是对于那种精确的专有名词啊、编号啊之类的比如说ISO 9001、第 3.2 条这种它反而不太敏感。所以搭配一个关键词检索也就是 BM25去做混合召回的话往往能够补上向量检索的这个短板。还有一个点就是在降低阈值之前先多召回几个候选。与其死守着一个相似度阈值来判定有没有不如先多召回一些 Top-K 的候选结果然后再让模型自己去判断这些内容跟问题到底相不相关、够不够用来回答。有时候没检索到高分结果和没有相关内容这完全是两码事。✦ ✦ ✦二、生成层的底线宁可说不知道也不要瞎编这一条是整个兜底策略里面最重要的一条原则了。在 prompt 里面你要明确地告诉模型如果说提供的资料里面没有相关的信息那就如实告知用户说没有找到相关的内容不要去编造答案。那到底要不要用模型自身的知识来做兜底呢这个要分场景来看。如果说是一些通用的常识类问题不依赖私有数据的那种那可以用模型自身的知识来回答。但是要标注一下说以下为通用知识并非企业知识库的内容。但如果是那种强依赖内部数据的场景比如说公司制度、产品参数、法务条款这些那就坚决不能瞎猜了必须明确告知说没有找到相关的资料。这个边界一定要在系统设计的阶段就想清楚不能到了生成的时候才临时去判断。✦ ✦ ✦三、交互层把没找到变成一次还不错的体验用户听到没找到这三个字的时候体验通常都是比较差的。但是如果设计得好的话这反而可以变成一次挽回的机会。比如说可以引导用户换个问法。跟用户说没有找到完全匹配的内容您可以换一下关键词或者说补充更多的细节来试试。或者呢给出一些相关但不是完全匹配的内容。跟用户说虽然没有精确匹配到但是以下这些资料可能对您有帮助然后把决定权交给用户。还有一个方式就是转人工或者说创建工单。这个是客服类场景里面最常见的兜底方式了当检索不到的时候主动提示用户说是否需要人工介入。✦ ✦ ✦四、系统层把每一次没找到变成知识库的养料兜底这个事情不应该只是临时的补救更应该去反哺到资产建设上面来。具体来说的话可以定期去分析那些检索失败的 query 日志把那些高频但是没有资料覆盖的问题给找出来。然后针对这些高频未命中的人工去补充知识库的条目。对于那些常见但是知识库暂时还没有的问题可以先建立一个兜底的 FAQ 库。这样一来的话检索不到的比例就会随着系统运行时间的推移变得越来越低了。✦ ✦ ✦五、一个典型的兜底逻辑链把上面几层串起来的话大概就是这么一个流程用户提问 → 检索向量 关键词混合 → 相似度是否达标 ├─ 是 → 生成答案带引用来源 └─ 否 → 尝试 query 改写重新检索一次 仍未达标 → 明确告知未找到相关资料 → 提供相关性较低的候选内容可选 → 引导换个问法 / 转人工可选✦ ✦ ✦写在最后RAG 系统的核心竞争力嘛往往不在于能不能答对这个问题上而是在于当你答不上来的时候应该怎么办。一个好的兜底设计应该做到这么三件事。第一是尽力去找。多轮改写、混合检索、放宽范围不要轻易就放弃了。第二是诚实地说。找不到就是找不到绝对不去编造。第三是持续去学习。把每一次的失败都变成知识库迭代的输入。宁可承认说我不知道也不要让系统去编出一个错误的答案。这句话啊值得刻在每一个 RAG 系统的 prompt 里面。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】