大家在讨论大模型尤其智能体Agent的设计时都会提到记忆、知识库等相关概念这里面又有很多场景和说法。提示词prompt、角色定义、提示词工程等记忆全局记忆、用户记忆、会话记忆、临时要求等知识库配置文件、向量及 RAG 检索、数据库文件、字段 / 映射表等来看看他们到底都是啥▶ 提示词prompt是根儿是站在我们使用大模型的角度说的。目前我们设计的智能体都是为了和大模型交互而我们说的大模型又绝大部分是指大语言模型LLM所以想要大模型干活就只能通过语言提示词交互。本文提到的所有名词和概念后续都得转为提示词才能生效所以我们大部分的智能体的工作都可以称之为“提示词工程”。▲ 图1提示词交互次序 — 用户 → 智能体 → LLM▶ 记忆是站在大模型本身角度说的主要指执行任务过程中涉及的动态信息。大模型要完成工作需要记住很多内容和要求但实际执行时又不能都全程都带着它们这跟电脑处理任务一样内存里装的东西多了干活就容易卡效率低还费电如果大模型的长时记忆太多既耗token、干活又慢还容易忘事儿。这是LLM的底层设计决定的无法改变所以就得给它设计不同层次的记忆系统哪些东西要一直记着哪些事情只对某个人生效哪些细节只在这件事儿中生效等等。▼ 图2记忆分层架构 — 以能源问数为例全局全局记忆组织级长期有效指标口径/场站组织树业务参数字典用户用户记忆个人级跨会话保留常看XX区域新能源偏好表格/默认对比昨日会话会话记忆当前对话窗口内有效在问本月发电量已选3座风场/追问上下文临时临时要求本轮/短周期用完即弃临时约定只要同比排除检修机组本轮用英文单位▶ 知识也是站在大模型角度说的不过它指的更多是静态信息就像图书馆里的书。大模型不用把它们全记住只要在用的时候知道去哪找、能方便的找到就行。知识的形式有很多种可以在数据库中可以是配置文件也可以是字典等等。小结一下● 所有我们通过智能体和大模型交互的内容都叫提示词。 ● 有些重要的约定和细节要求智能体要记在大脑里有的要长期记着有的过一段就忘记这些叫记忆。 ● 那些大部头的“书”不用全背下来需要的时候去查阅这些可以称知识。 当然按计算机、人脑来类比记忆也可以称作知识只不过类别不同。这里先挖个坑要做好智能体得先设计好知识体系再考虑记忆架构然后是技术路线最后加上用户交互这样大概就有个样子了。今天先挑问数类智能体理下典型知识体系。02智能问数Agent的典型知识结构▼ 图3典型知识结构分层交付行为关系对象报告分析报告 AnalyzeReport基于思维链半成品预置模板组装纠偏围栏最终交付报告模板/sectionschain_ref取数图表/Word导出CoT思维链 CoT业务逻辑链条串联指标与元数据产品核心载体chain_groups/steps业务规则注入消纳/缺口/归因指标指标 Index基于元数据二次计算物理↔虚拟转换节点支持自定义公式/计算原型点值/时序引擎用户overlay元数据元数据 Raw Data底层依据与参考防幻觉基础model_mappings 自动获取电网/厂站/表结构动态SQL依据智能问数的场景复杂多变但涉及知识的内容相对明确按照自上而下可以抽象为元数据-指标-思维链-报告4个层次。这个架构并不复杂还是照着对象-关系-行为的逻辑来设计即可。问数类的产品要避免的最大的问题就是大模型的幻觉问题因为它容易胡说八道这对数据类业务是致命的。应对方案主要在两个方向给它明确的依据和参考、搭配检查和围栏。1.元数据Raw Data就是解决的依据和参考问题它明确地告诉大模型当前的底层模型和元数据是什么。当然这个不用我们手工执行大模型可以自主学习。2.指标Index是基于元数据的二次计算更加偏向于业务场景这里支持用户自定义 还有大模型的自主创建。它是衔接底层模型和上层业务的关键也是完成物理和虚拟转换的节点。3.思维链CoT是产品核心它是大模型能力发挥的关键载体负责把业务需求的逻辑形成思维链条串联一系列的指标和元数据完成业务数据的组装。4.分析报告为用户负责最终负责它基于思维链的半成品按照预置模板进行组装并结合自身的思维能力交付最终报告。这里是最能发挥大模型能力的地方也是最容易出现幻觉、漂移的地方所以持续的纠偏、围栏是必不可少的。03技术选型及辅助方法有了结构再简要说下几个关键的技术和方法。MCP首先通过MCP工具实现大模型与数据库的交互这是最底层的边界和原则不允许大模型直接操作数据库。动态查询进一步收缩大模型的泛化思考能力对用户查询和分析需求设计模式相对稳定的动态查询方法如针对指标计算、元数据查询思考并形成Sql语句和分析指令。这里同步要配检查和围栏开展自我检查和外部纠偏。在线训练提供大模型的友好的交互方式在现有认识结构基础上通过聊天方式提供专家训练、用户训练让大模型可以记住更多知识思维链、指标等持续进步。向量库向量是个好东西它通过向量矩阵的数学方法巧妙的实现了看起来并不相同文本的近似匹配比如它知道特定场景下“苹果”等同于手机而不是吃的水果。这和大模型推理、用户聊天场景天然适配在用户意图识别、文本分析、内容召回等方面都有很大作用。小结知识结构 技术方法综合架构▼ 图4知识结构与技术选型综合架构知识结构辅助方法报告分析报告 AnalyzeReport模板组装纠偏围栏最终交付sections/chain_ref图表/Word导出CoT思维链 CoT业务逻辑链条串联指标产品核心chain_groups/steps消纳/缺口/归因指标指标 Index元数据二次计算物理↔虚拟转换公式/引擎字段/单位归一元数据元数据 Raw Data底层依据与参考model_mappings 自动获取电网/厂站/表/字典向量向量库近似匹配 / 意图识别文本分析 / 内容召回indicator_indexchain/report_index横切赋能↑四层知识召回训练在线训练聊天式 / 专家用户训练持续记住更多知识思维链沉淀指标沉淀回写→思维链 / 指标层底层边界 — 不允许大模型直接操作数据库MCPMCP 工具大模型↔数据库的唯一通道查询动态查询 检查围栏稳定模式SQL/指令自检 外部纠偏学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】 智能问数Agent的知识结构设计
大家在讨论大模型尤其智能体Agent的设计时都会提到记忆、知识库等相关概念这里面又有很多场景和说法。提示词prompt、角色定义、提示词工程等记忆全局记忆、用户记忆、会话记忆、临时要求等知识库配置文件、向量及 RAG 检索、数据库文件、字段 / 映射表等来看看他们到底都是啥▶ 提示词prompt是根儿是站在我们使用大模型的角度说的。目前我们设计的智能体都是为了和大模型交互而我们说的大模型又绝大部分是指大语言模型LLM所以想要大模型干活就只能通过语言提示词交互。本文提到的所有名词和概念后续都得转为提示词才能生效所以我们大部分的智能体的工作都可以称之为“提示词工程”。▲ 图1提示词交互次序 — 用户 → 智能体 → LLM▶ 记忆是站在大模型本身角度说的主要指执行任务过程中涉及的动态信息。大模型要完成工作需要记住很多内容和要求但实际执行时又不能都全程都带着它们这跟电脑处理任务一样内存里装的东西多了干活就容易卡效率低还费电如果大模型的长时记忆太多既耗token、干活又慢还容易忘事儿。这是LLM的底层设计决定的无法改变所以就得给它设计不同层次的记忆系统哪些东西要一直记着哪些事情只对某个人生效哪些细节只在这件事儿中生效等等。▼ 图2记忆分层架构 — 以能源问数为例全局全局记忆组织级长期有效指标口径/场站组织树业务参数字典用户用户记忆个人级跨会话保留常看XX区域新能源偏好表格/默认对比昨日会话会话记忆当前对话窗口内有效在问本月发电量已选3座风场/追问上下文临时临时要求本轮/短周期用完即弃临时约定只要同比排除检修机组本轮用英文单位▶ 知识也是站在大模型角度说的不过它指的更多是静态信息就像图书馆里的书。大模型不用把它们全记住只要在用的时候知道去哪找、能方便的找到就行。知识的形式有很多种可以在数据库中可以是配置文件也可以是字典等等。小结一下● 所有我们通过智能体和大模型交互的内容都叫提示词。 ● 有些重要的约定和细节要求智能体要记在大脑里有的要长期记着有的过一段就忘记这些叫记忆。 ● 那些大部头的“书”不用全背下来需要的时候去查阅这些可以称知识。 当然按计算机、人脑来类比记忆也可以称作知识只不过类别不同。这里先挖个坑要做好智能体得先设计好知识体系再考虑记忆架构然后是技术路线最后加上用户交互这样大概就有个样子了。今天先挑问数类智能体理下典型知识体系。02智能问数Agent的典型知识结构▼ 图3典型知识结构分层交付行为关系对象报告分析报告 AnalyzeReport基于思维链半成品预置模板组装纠偏围栏最终交付报告模板/sectionschain_ref取数图表/Word导出CoT思维链 CoT业务逻辑链条串联指标与元数据产品核心载体chain_groups/steps业务规则注入消纳/缺口/归因指标指标 Index基于元数据二次计算物理↔虚拟转换节点支持自定义公式/计算原型点值/时序引擎用户overlay元数据元数据 Raw Data底层依据与参考防幻觉基础model_mappings 自动获取电网/厂站/表结构动态SQL依据智能问数的场景复杂多变但涉及知识的内容相对明确按照自上而下可以抽象为元数据-指标-思维链-报告4个层次。这个架构并不复杂还是照着对象-关系-行为的逻辑来设计即可。问数类的产品要避免的最大的问题就是大模型的幻觉问题因为它容易胡说八道这对数据类业务是致命的。应对方案主要在两个方向给它明确的依据和参考、搭配检查和围栏。1.元数据Raw Data就是解决的依据和参考问题它明确地告诉大模型当前的底层模型和元数据是什么。当然这个不用我们手工执行大模型可以自主学习。2.指标Index是基于元数据的二次计算更加偏向于业务场景这里支持用户自定义 还有大模型的自主创建。它是衔接底层模型和上层业务的关键也是完成物理和虚拟转换的节点。3.思维链CoT是产品核心它是大模型能力发挥的关键载体负责把业务需求的逻辑形成思维链条串联一系列的指标和元数据完成业务数据的组装。4.分析报告为用户负责最终负责它基于思维链的半成品按照预置模板进行组装并结合自身的思维能力交付最终报告。这里是最能发挥大模型能力的地方也是最容易出现幻觉、漂移的地方所以持续的纠偏、围栏是必不可少的。03技术选型及辅助方法有了结构再简要说下几个关键的技术和方法。MCP首先通过MCP工具实现大模型与数据库的交互这是最底层的边界和原则不允许大模型直接操作数据库。动态查询进一步收缩大模型的泛化思考能力对用户查询和分析需求设计模式相对稳定的动态查询方法如针对指标计算、元数据查询思考并形成Sql语句和分析指令。这里同步要配检查和围栏开展自我检查和外部纠偏。在线训练提供大模型的友好的交互方式在现有认识结构基础上通过聊天方式提供专家训练、用户训练让大模型可以记住更多知识思维链、指标等持续进步。向量库向量是个好东西它通过向量矩阵的数学方法巧妙的实现了看起来并不相同文本的近似匹配比如它知道特定场景下“苹果”等同于手机而不是吃的水果。这和大模型推理、用户聊天场景天然适配在用户意图识别、文本分析、内容召回等方面都有很大作用。小结知识结构 技术方法综合架构▼ 图4知识结构与技术选型综合架构知识结构辅助方法报告分析报告 AnalyzeReport模板组装纠偏围栏最终交付sections/chain_ref图表/Word导出CoT思维链 CoT业务逻辑链条串联指标产品核心chain_groups/steps消纳/缺口/归因指标指标 Index元数据二次计算物理↔虚拟转换公式/引擎字段/单位归一元数据元数据 Raw Data底层依据与参考model_mappings 自动获取电网/厂站/表/字典向量向量库近似匹配 / 意图识别文本分析 / 内容召回indicator_indexchain/report_index横切赋能↑四层知识召回训练在线训练聊天式 / 专家用户训练持续记住更多知识思维链沉淀指标沉淀回写→思维链 / 指标层底层边界 — 不允许大模型直接操作数据库MCPMCP 工具大模型↔数据库的唯一通道查询动态查询 检查围栏稳定模式SQL/指令自检 外部纠偏学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】