前言在模块化RAGRetrieval-Augmented Generation设计中各种操作模式通过模块化的方式协同工作形成了一个名为RAG流的工作流程。这个RAG流可以被视为由多个子函数组成的图形结构。通过控制逻辑这些子函数会按预定的顺序执行同时也能根据需求进行条件判断、分支或循环。这种模块化特性让RAG系统能够灵活应对不同的应用场景并且提升了系统的设计效率和扩展性。在分析现有的RAG方法时我们可以看到模块化的结构使得RAG系统可以在处理复杂任务时更具适应性。本章将详细介绍几种常见的RAG模式包括线性模式在这个模式下各个模块按顺序依次执行每个步骤的输出作为下一个步骤的输入适用于顺序性较强的任务。条件模式根据特定的条件选择性地执行不同的模块操作。这个模式能够处理具有分支或选择性的任务。分支模式与条件模式类似但它更多地用于任务中涉及多个并行处理路径的场景。循环模式当某些操作需要重复执行时循环模式便会派上用场。它适合那些需要反复处理相似任务的应用。通过这些模式的结合RAG系统不仅能够高效地处理多样化的任务需求还可以在面对复杂任务时保持灵活性与扩展性。1 线性模式在RAG系统中线性模式是最简单且最常见的工作流模式。其核心流程包括几个主要模块预检索Pre-Retrieval、检索、后检索Post-Retrieval和生成模块。这些模块按顺序依次进行处理如图示。值得注意的是当预检索和检索后处理模块缺失时线性模式会简化为一种称为朴素检索增强生成Naive RAG的基本范式仅包含检索和生成过程。为了提升生成的质量常见的线性RAG流通过以下几个步骤优化预检索阶段这一阶段引入了查询变换模块通常采用查询重写或者隐式文档扩展HyDE等操作符。通过这些变换查询能够更好地适应检索需求提高检索的相关性。检索阶段在这一阶段系统通过检索工具如BM25从外部知识库中获取与重写后的查询高度相关的文档或上下文信息。后检索阶段检索结果进一步优化通常通过排序模块对检索的结果进行调整使得最终选出的文档最能满足生成需求。生成模块最终通过生成模型例如GPT或T5等处理优化后的文档上下文产生高质量的回答或生成内容。一个典型的线性RAG流模式是“重写-检索-阅读Rewrite-Retrieve-ReadRRR”方法。该方法在预检索阶段引入了一个查询重写模块。这个模块基于T5-large模型的微调版本并通过强化学习框架进行优化将查询重写过程建模为马尔可夫决策过程MDP。在这个过程中查询重写模块的输出质量被视为奖励信号强化学习算法通过策略梯度方法来调整和优化生成的查询从而确保查询更符合检索任务的需求。这种方式提升了检索的效率并进一步改善了生成结果的效果。在检索阶段RRR方法使用了稀疏编码模型如BM25进行检索从外部知识库中获取与重写后的查询相关的文档进一步增强了系统生成内容的准确性和可靠性。通过这样的设计线性模式的RAG流不仅提高了生成质量还能在实际应用中实现高效的知识提取和生成。2 条件模式条件模式是一种灵活的RAG流模式其核心特点是在不同的条件下选择不同的工作流以便针对特定场景进行优化。这种模式的关键在于一个路由模块Routing Module该模块根据输入问题的特性动态选择接下来的处理流程如下图所示。具体来说当系统接收到不同类型的问题时它会根据预设的条件或规则决定如何处理。例如对于涉及严肃议题、政治话题或娱乐内容等不同类型的问题系统会自动切换到不同的处理流程。这种动态路由机制显著提升了系统处理多样化任务的能力使得系统能够灵活应对各种复杂场景。条件模式的分支流主要体现在以下几个方面检索来源系统会根据问题的性质选择不同的检索来源。例如对于严肃问题系统可能会选择更可靠的、权威性的来源而对于娱乐性问题则可能选择更多元或创意性的资料。流程选择针对不同任务的需求条件模式可能会调整流程的细节控制模块的顺序、执行的操作甚至是否进行一些后处理。模型配置不同类型的问题可能需要不同的模型配置。比如严肃问题可能使用更精确、保守的模型而娱乐类问题则可能使用更具创意性和生成自由度的模型。提示设计根据任务的性质系统的提示设计Prompt Design也会有所不同。对于严肃问题提示可能会更为规范和严格而对于娱乐类问题提示可能会更具开放性和灵活性。举个例子对于严肃性较高的问题如法律、健康、政治等系统可能会选择更加可靠的检索来源并对生成的内容设置严格的约束确保信息的准确性和权威性。而对于娱乐类的问题如电影、游戏、搞笑等系统则可以容忍更多的创意和不拘一格的生成提供富有娱乐性和趣味性的回答。通过这种方式条件模式能够根据任务的需求动态调整RAG各个组件确保生成的回答既符合场景需求又保持高相关性和准确性。这种灵活性使得条件模式在处理多样化、复杂性高的任务时具有显著的优势能够有效提升系统的适应能力和输出质量。3 分支模式分支模式是RAGRetrieval-Augmented Generation系统中一种增加结果多样性和鲁棒性的重要设计方式。它通过并行运行多个分支来生成多样化的结果从而提升系统的性能和准确性。具体来说分支模式在某个模块中生成多个并行的分支每个分支可以独立执行相同或不同的RAG流程。这些分支通常由多个处理模块组成每个模块生成各自的结果。然后这些分支的结果会通过一个聚合函数合并成一个中间输出结果。值得注意的是合并后的结果不一定意味着流程的结束它们还可以传递到后续模块如验证模块进行进一步处理。整体流程从生成多个分支、独立处理、到结果聚合形成了一个完整的流水线。与条件模式不同分支模式的特点在于同时并行运行多个分支而不是从多个选项中选择一个分支。这使得分支模式能够同时从多个角度进行处理生成更加丰富和多样化的结果。分支模式的结构类型根据任务需求分支模式可以设计为不同的结构通常分为两种类型预检索分支模式Pre-Retrieval Branching这种模式通过生成多个子查询并并行检索旨在提高检索的全面性和生成结果的多样性。具体流程是首先通过查询扩展模块将初始查询扩展为多个子查询。每个子查询然后通过检索模块获取相关文档形成文档集合。这些文档和相应的子查询一同送入生成模块产生多个答案集合。最终所有生成的答案通过融合模块进行整合形成最终的结果。这种模式的优势在于它能够从多个角度挖掘潜在信息增强生成结果的覆盖度和准确性。它特别适用于需要广泛搜索和多角度生成的任务。后检索分支模式Post-Retrieval Branching该模式从单一查询开始首先通过检索模块获取多个文档块。然后每个文档块被独立送入生成模块进行处理生成对应的结果集合。这些结果最终会通过合并模块整合形成最终输出。与预检索分支模式不同后检索分支模式的特点在于它通过单一查询进行检索而并行生成则集中在对不同文档块的独立处理上。这个模式非常适合那些需要从同一查询结果中挖掘多角度信息的场景能更好地利用检索到的内容提升生成结果的多样性和质量。分支模式的优势通过并行执行多个分支分支模式能够从多个角度生成和整合信息极大地提升了系统的生成能力和结果质量。它特别适合于处理复杂场景和多任务需求可以为不同的应用场景提供更加多样和精准的答案。因此分支模式在多任务处理和复杂场景中具有显著的优势。4 循环模式循环模式是RAGRetrieval-Augmented Generation系统中一种重要的设计方式其核心特点是检索与生成步骤之间的相互依赖性。通过引入一个调度模块来控制流程循环模式确保系统可以根据任务需求在不同模块之间重复执行某些操作。这使得循环模式可以不断优化流程中的步骤提升任务的最终效果。循环模式的基本原理循环模式可以抽象为一个有向图图中的节点代表系统中的各个模块边则表示模块之间的控制流或数据流。当某个模块的输出能够返回到之前的模块时系统就形成了一个循环结构。这样的设计让系统可以根据需要在某些步骤之间来回循环以不断优化结果直到达到理想的效果。判断模块在循环模式中判断模块Judge Module起到了关键作用。它用于决定系统是否需要返回到前一个模块或者是否继续向下执行。例如在每一次生成或检索之后判断模块可以根据当前的输出结果、历史数据、查询和检索到的文档来决定是否继续迭代。如果决定返回流程就会进行循环如果决定不返回流程则继续向前执行。这样系统能够根据当前任务的情况动态调整整个流程。循环模式的类型循环模式可以进一步细分为三种类型迭代型循环模式、递归型循环模式和自适应型主动型循环模式。每种模式都适用于不同的场景提供了灵活的处理方式。迭代型循环模式迭代型循环模式通过多次执行检索和生成操作在每次迭代中逐步优化结果。如下图所示在每一步迭代中系统根据当前的查询和之前的输出结果来检索相关文档然后使用这些文档生成新的输出。迭代过程通常会设置一个最大迭代次数的限制以避免出现无限循环。在每次迭代后判断模块会根据当前的生成结果、历史输出、查询和检索到的文档来决定是否继续迭代。迭代型模式非常适合那些需要逐步收集信息并动态调整的任务能够逐渐完善对复杂问题的回答。递归型循环模式递归型循环模式则是一种具有明显依赖性和层次性的检索方式如图所示。每一步操作都依赖于前一步的输出并通过不断深化检索过程逐步获取更深入的信息。递归型模式通常遵循类似树状结构的模式每次检索会基于改写后的查询进一步展开以精确定位所需的知识。递归型检索具有明确的退出机制以确保在达到终止条件时流程停止从而避免无限递归。此模式适用于需要分步推理或逐层分析的任务能够深入挖掘相关信息并生成高质量的回答。自适应型主动型循环模式自适应型循环模式是一种超越传统被动检索的方式得益于大语言模型强大的能力。如图9.16所示自适应型模式的核心思想是通过智能体的方式动态调整检索流程主动决定何时进行检索何时终止流程并生成最终结果。这种模式与传统的固定流程不同具有更高的灵活性和智能性。它能够实时根据任务的需求调整策略判断最佳的执行路径。自适应型检索通常通过两种方法来进一步细分一是基于提示的方法通过设计动态提示来引导模型的检索二是基于指令微调的方法通过微调模型来实现更精准的检索控制。自适应型模式特别适用于复杂任务或动态信息需求的场景能够提升检索效率和生成质量。循环模式的优势通过引入循环结构循环模式能够让系统在检索与生成的过程中不断优化逐步提升任务的完成效果。无论是迭代型的逐步改进还是递归型的深度推理或是自适应型的智能控制循环模式都为RAG系统提供了强大的灵活性和处理能力能够在面对复杂问题时进行更精确的调整和优化从而提升生成结果的质量和准确性。最后为什么要学AI大模型当下⼈⼯智能市场迎来了爆发期并逐渐进⼊以⼈⼯通⽤智能AGI为主导的新时代。企业纷纷官宣“ AI ”战略为新兴技术⼈才创造丰富的就业机会⼈才缺⼝将达 400 万DeepSeek问世以来生成式AI和大模型技术爆发式增长让很多岗位重新成了炙手可热的新星岗位薪资远超很多后端岗位在程序员中稳居前列。与此同时AI与各行各业深度融合飞速发展成为炙手可热的新风口企业非常需要了解AI、懂AI、会用AI的员工纷纷开出高薪招聘AI大模型相关岗位。最近很多程序员朋友都已经学习或者准备学习 AI 大模型后台也经常会有小伙伴咨询学习路线和学习资料我特别拜托北京清华大学学士和美国加州理工学院博士学位的鲁为民老师给大家这里给大家准备了一份涵盖了AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频全系列的学习资料这些学习资料不仅深入浅出而且非常实用让大家系统而高效地掌握AI大模型的各个知识点。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】AI大模型系统学习路线在面对AI大模型开发领域的复杂与深入精准学习显得尤为重要。一份系统的技术路线图不仅能够帮助开发者清晰地了解从入门到精通所需掌握的知识点还能提供一条高效、有序的学习路径。但知道是一回事做又是另一回事初学者最常遇到的问题主要是理论知识缺乏、资源和工具的限制、模型理解和调试的复杂性在这基础上找到高质量的学习资源不浪费时间、不走弯路又是重中之重。AI大模型入门到实战的视频教程项目包看视频学习是一种高效、直观、灵活且富有吸引力的学习方式可以更直观地展示过程能有效提升学习兴趣和理解力是现在获取知识的重要途径光学理论是没用的要学会跟着一起敲要动手实操才能将自己的所学运用到实际当中去这时候可以搞点实战案例来学习。海量AI大模型必读的经典书籍PDF阅读AI大模型经典书籍可以帮助读者提高技术水平开拓视野掌握核心技术提高解决问题的能力同时也可以借鉴他人的经验。对于想要深入学习AI大模型开发的读者来说阅读经典书籍是非常有必要的。600AI大模型报告实时更新这套包含640份报告的合集涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师还是对AI大模型感兴趣的爱好者这套报告合集都将为您提供宝贵的信息和启示。AI大模型面试真题答案解析我们学习AI大模型必然是想找到高薪的工作下面这些面试题都是总结当前最新、最热、最高频的面试题并且每道题都有详细的答案面试前刷完这套面试题资料小小offer不在话下这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】