一、标准答案参考Retrieval-Augmented GenerationRAG全称检索增强生成就是让大模型在回答问题前先去“查资料”检索相当于让它开卷考试模型本身可能没学过公司的内部文档但只要把相关内容找出来给它它就能结合这些资料给出靠谱的答案生成。二、扩展追问1、为什么需要RAG答大模型本身只有它训练时见过的知识如果问它“你们公司差旅报销流程是什么”它肯定答不上来因为它根本没见过你们的制度文件不了解私域知识。如果硬要它回答大概率就是瞎编。解决这个问题的直观思路把相关资料喂给它不就行了这就是RAG的核心逻辑关键是如何做到“精确投喂”只把问题最相关的知识检索出来给大模型。三、RAG的完整流程RAG整体分两大块先把知识建立索引然后检索生成下面将详细讲述这两步的流程。1、第一块建立索引这一步相当于考试前做的准备工作把参考资料整理好、做好标记方便到时候快速翻到需要的地方具体四个环节如下图所示文档解析把各种格式的文档PDF、Word、网页啥的转成纯文本就像人在看书的时候眼睛接收到的是图像脑子里转化成了文字信息。文本分段一本书几百页不可能每次答题都从头翻到尾所以要先切成小块每块就是一个“文本段chunk”后面检索的时候才能快速定位。文本向量化对于计算机来说其实并不真正理解文字的语义所以要用Embedding模型把每段文字转成一串数字向量而完成转换后语义相近的文本对应的向量在空间上也会比较接近。打个比方“我喜欢吃苹果” 和 “我爱吃苹果”这两个句子转成向量后距离计算距离有多种方法常用余弦相似度就很近但跟“今天天气不错”的向量距离就远。存储索引这一步是把这些向量存到向量数据库里等到下次有相似的问题需要“查资料”时直接去库里查就行不用每次都重新处理一遍文档。第二块检索生成上面是属于准备工作接下来就是正式“答题”环节主要有两步检索和生成流程如下图所示。检索对于用户的问题query系统先把这个问题也转成向量然后去向量数据库里找——哪些文本段跟这个问题最像把最相关的几段文本找出来。这一步特别关键就像开卷考试你要是翻到了错误的章节那么后面答题肯定跑偏。所以业界会用各种手段提升检索质量比如重排rerank、混合检索、query改写之类的检索技巧。生成找到相关资料后系统会把这些内容跟用户问题组装成一个完整的Prompt交给大模型生成答案Prompt大概长这样 请根据以下信息回答用户的问题{召回的文本段}。用户的问题是{用户问题}。这时候大模型干的活主要是“阅读理解总结”而不是靠自己的知识硬答回答也更有依据、更准确。四、总结RAG的本质就是给大模型配了个“资料查询”模型自己不知道的东西先去知识库里查查到了再回答再次总结一下核心流程事先把文档切段、向量化、存好有问题来了先检索相关段落把段落和问题拼成Prompt让模型生成回答RAG流程说起来简单但是在真正的工程落地中每个环节都有讲究例如文档怎么切、Embedding模型选哪个、检索策略、检索后要不要重排、Prompt怎么写……这些细节决定了最终效果的好坏后续我会分享这些问题在真实场景中的解决方案。学习资源推荐如果你想更深入地学习大模型以下是一些非常有价值的学习资源这些资源将帮助你从不同角度学习大模型提升你的实践能力。一、全套AGI大模型学习路线AI大模型时代的学习之旅从基础到前沿掌握人工智能的核心技能​因篇幅有限仅展示部分资料需要点击文章最下方名片即可前往获取二、640套AI大模型报告合集这套包含640份报告的合集涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师还是对AI大模型感兴趣的爱好者这套报告合集都将为您提供宝贵的信息和启示​因篇幅有限仅展示部分资料需要点击文章最下方名片即可前往获取三、AI大模型经典PDF籍随着人工智能技术的飞速发展AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型如GPT-3、BERT、XLNet等以其强大的语言理解和生成能力正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。因篇幅有限仅展示部分资料需要点击文章最下方名片即可前往获取四、AI大模型商业化落地方案作为普通人入局大模型时代需要持续学习和实践不断提高自己的技能和认知水平同时也需要有责任感和伦理意识为人工智能的健康发展贡献力量。