目录一、普通对话基础流程无知识库纯 LLM 原生对话1. 步骤 1用户提问输入2. 步骤 2构造 Prompt提示词组装基础 Prompt 结构组成组装示例3. 步骤 3HTTP / SSE 调用 LLM 服务1HTTP 一次性请求同步阻塞一次性返回全部结果2SSE 服务端推送流式输出主流对话产品打字实时输出4. 步骤 4解析模型返回结果普通对话完整极简流程图二、RAG 检索增强问答全流程带私有知识库解决模型知识滞后、私有数据问答第一阶段离线知识库预处理提前执行非实时步骤 1原始文档切片文本分割步骤 2文本向量化Embedding 嵌入步骤 3向量入库存储第二阶段在线实时问答流程用户发起提问后执行步骤 1用户提问预处理 问题向量化步骤 2向量库相似度检索步骤 3拼接检索知识库到 PromptRAG 核心步骤步骤 4HTTP/SSE 调用 LLM 生成答案步骤 5结果解析、后置处理、返回用户RAG 完整流程图三、普通对话 vs RAG 问答 核心差异对比四、关键补充知识点一、普通对话基础流程无知识库纯 LLM 原生对话整体链路用户提问 → 构造 Prompt 模板 → HTTP/SSE 请求调用 LLM 服务 → 接收模型返回数据 → 解析输出给用户1. 步骤 1用户提问输入用户通过前端输入文本、语音转文字等方式产生原始用户 Query。 示例用户输入 “解释什么是微服务”。 配套前置处理通用预处理过滤敏感词、违禁内容清洗空格、换行、无效符号多轮对话场景拼接历史上下文历史问答记录。2. 步骤 2构造 Prompt提示词组装不会直接把用户原话丢给模型会用固定模板封装约束区分单轮对话、多轮对话。基础 Prompt 结构组成系统角色指令System Prompt定义模型身份、输出规范、限制条件 例你是后端技术专家回答简洁分点说明不冗余。历史对话上下文多轮专属存储用户上一轮提问、模型上一轮回答保证对话连贯当前用户最新提问User Query输出格式约束可选指定 JSON / 纯文本 / Markdown 格式组装示例【系统】你是计算机技术讲师通俗易懂回答问题 【历史】用户什么是分布式AI分布式是多机器协同完成任务 【用户】分布式和微服务区别是什么组装完成后得到完整请求文本作为入参传给 LLM。3. 步骤 3HTTP / SSE 调用 LLM 服务分两种传输协议对应两种交互模式1HTTP 一次性请求同步阻塞一次性返回全部结果适用场景短问答、批量生成、不需要流式打字效果 流程后端封装 POST 请求Header 携带鉴权 Token、模型参数温度 temperature、最大生成长度 max_tokens、top_p 等请求 Body 携带完整 Prompt等待模型服务完整计算完成一次性返回完整文本全程阻塞生成越长等待时间越久。2SSE 服务端推送流式输出主流对话产品打字实时输出SSEServer-Sent Events基于 HTTP 长连接单向服务端推送数据 适用场景聊天界面实时打字、长文本生成 流程建立长连接携带 Prompt 与参数LLM 逐 token 生成文字每生成一小段就封装成一条 SSE 消息实时推送给后端前端持续接收分片逐字渲染模拟打字效果全部生成完毕后发送结束标识断开长连接。补充底层通用接口载体开源模型Ollama、vLLM、Text Generation WebUI 提供 HTTP 接口商用模型OpenAI、文心一言、通义千问等标准 OpenAI 兼容接口。4. 步骤 4解析模型返回结果区分两种返回格式处理一次性 HTTP 返回JSON 完整结构体直接提取content回答文本SSE 流式分片循环读取每条数据流拼接所有分片 token最终合并完整答案 额外后置处理过滤模型多余前缀、空行、无效标记格式转换如转 Markdown、表格渲染敏感内容二次校验存入对话历史库供下一轮 Prompt 拼接。普通对话完整极简流程图用户输入 → 文本清洗 上下文拼接 → Prompt 模板组装 → HTTP/SSE 请求 LLM → 接收返回分片 / 完整文本 → 解析清洗结果 → 展示给用户二、RAG 检索增强问答全流程带私有知识库解决模型知识滞后、私有数据问答完整两大阶段离线知识库构建阶段一次性预处理在线问答推理阶段用户提问实时执行完整链路概括文档切片 → 文本向量化 → 向量库入库存储 → 用户提问向量化检索 → 检索结果拼接进 Prompt → LLM 整合知识库生成回答第一阶段离线知识库预处理提前执行非实时步骤 1原始文档切片文本分割原始素材PDF、Word、Markdown、数据库文本、网页、本地 txt 等 处理逻辑文件解析提取纯文本剔除图片、表格乱码、页眉页脚、水印文本分块切片Chunk 大段完整文本不能直接向量化会丢失细节、超出向量模型长度限制 常用分割规则固定字符长度分割、语义分割按句号 / 段落 / 语义断点切分补充元数据每个切片绑定来源文件名、页码、标题后续回答可标注引用来源。 示例一份 10000 字产品手册切分成每段 500 字左右独立文本块。步骤 2文本向量化Embedding 嵌入切片纯文本无法直接检索需要转为低维数字向量Embedding 向量调用嵌入模型如 bge、m3e、text-embedding输入单个文本 Chunk输出一串浮点数组如 768 维、1024 维向量 语义相近的文本向量在空间中距离更近为后续相似度检索做基础。步骤 3向量入库存储将「文本切片 对应向量 元数据」存入向量数据库 主流向量库Milvus、Chroma、FAISS、PGVectorPostgres 向量扩展、Weaviate 存储结构向量索引加速相似度匹配原始文本检索命中后取出拼接给大模型元数据用于过滤如只检索某一份文档。 离线阶段到此结束知识库就绪等待用户提问。第二阶段在线实时问答流程用户发起提问后执行步骤 1用户提问预处理 问题向量化用户 Query 清洗过滤无效字符、修正错别字调用同一个 Embedding 模型把用户问题转换成查询向量关键必须和知识库切片使用完全相同的嵌入模型向量维度一致才能对比相似度。步骤 2向量库相似度检索拿着用户问题向量在向量库中做近似最近邻搜索按余弦相似度排序取出 Top-N 最匹配的文本切片一般取 3~8 条可选过滤根据元数据筛选指定文档、相似度阈值过滤低相关内容。 输出和用户问题高度相关的知识库原文片段。步骤 3拼接检索知识库到 PromptRAG 核心步骤不再只给用户问题Prompt 新增「参考知识库上下文」模块完整结构System 角色指令【参考资料】检索到的知识库切片原文约束指令回答必须基于参考资料资料没有的内容不要编造用户当前提问历史对话多轮 RAG 场景。 作用强制大模型基于私有文档作答减少幻觉、更新私有业务知识。步骤 4HTTP/SSE 调用 LLM 生成答案和普通对话一致携带组装好的 RAG 专属 Prompt 调用大模型支持流式 SSE 输出。步骤 5结果解析、后置处理、返回用户额外新增 RAG 专属能力引用溯源在答案中标注资料来源文档冗余过滤剔除模型复述知识库原文结果缓存高频问题可缓存检索 回答加速二次访问。RAG 完整流程图离线预处理文档解析 → 文本分块切片 → Embedding 向量化 → 向量库持久存储 在线问答用户提问 → 问题向量化 → 向量库检索相似文本 → 知识库 问题组装 RAG 专属 Prompt → HTTP/SSE 调用 LLM → 解析生成带资料依据的答案 → 返回用户三、普通对话 vs RAG 问答 核心差异对比环节普通对话流程RAG 检索增强问答知识来源模型训练时内置的公开知识存在滞后、无私有数据私有知识库 模型基础知识实时最新业务文档前置步骤无离线预处理必须提前切片、向量化、建向量库Prompt 结构角色 历史 用户问题角色 知识库参考文本 历史 用户问题核心依赖仅 LLM 大语言模型Embedding 嵌入模型 向量数据库 LLM 三者配合适用场景通用闲聊、通识知识、创意写作企业私有文档、内部手册、知识库问答、专业资料查询幻觉风险高未知内容容易编造低强制限定参考资料无资料则如实告知四、关键补充知识点SSE 流式优势无需前端轮询低延迟实时输出是所有在线聊天产品标准方案HTTP 同步仅用于后台批量生成。RAG 解决的两大痛点① 大模型训练数据截止时间固定无法读取最新内部文档 ② 模型记忆有限无法加载百万字级私有文件通过切片检索只送入相关片段突破上下文长度限制。Prompt 是流程核心枢纽无论普通对话还是 RAG所有上下文、知识库、约束规则最终都通过 Prompt 传递给 LLM模型本身不具备记忆、不自带知识库全部依赖输入文本。链路性能瓶颈普通对话瓶颈LLM 推理速度RAG 额外瓶颈文本向量化耗时、向量库检索耗时高并发场景需要做向量缓存、检索结果缓存优化。