1. 项目概述为什么现在要自己动手造一个AI Agent最近两年AI Agent这个概念火得不行。从能帮你写代码的Devin到能自主规划任务的AutoGPT再到各种“数字员工”好像不提Agent就落伍了。但说实话很多朋友对这个概念的理解还停留在“一个能联网、能调用工具的ChatGPT”层面。市面上的产品要么是黑盒要么功能固定要么价格不菲。当你真正想把它嵌入到自己的业务流里解决一个具体问题时往往会发现要么它不够灵活要么它太“笨”要么它根本不符合你的场景。这就是为什么我们需要“从零构建”。这不仅仅是为了学习更是为了获得真正的掌控力。自己动手意味着你可以精确地定义Agent的“大脑”决策逻辑、“手”工具调用和“眼睛”感知输入让它完美适配你的需求——无论是自动化处理客服工单、智能分析市场报告还是管理你的个人知识库。这个过程本质上是在设计一个能够理解目标、规划路径、执行动作并持续学习的智能体。今天我就结合自己趟过的坑和你聊聊怎么从一张白纸开始搭出一个既聪明又实用的AI Agent。2. 核心架构设计为你的Agent打造坚实骨架一个健壮的AI Agent不是一堆脚本的堆砌它需要一个清晰、可扩展的架构。我们可以把它类比成一个创业团队需要明确的分工、高效的沟通机制和清晰的决策流程。2.1 经典三层架构控制流、记忆体与工具集目前最主流也最实用的架构可以划分为三层控制流层Orchestrator、记忆层Memory和工具层Tools/Actuators。控制流层是大脑。它负责接收用户或系统的指令目标进行任务分解Planning决定每一步该做什么Reasoning并调用相应的工具。这是Agent智能的核心。常见的实现方式是用一个大语言模型LLM作为“指挥官”通过精心设计的提示词Prompt引导它进行思考。比如当你对Agent说“帮我分析一下上个月的销售数据并总结出三个关键洞察”控制流层需要理解这个复杂指令并将其拆解为“1. 找到上个月的销售数据文件2. 读取并理解数据内容3. 调用数据分析工具进行计算4. 根据结果归纳出三个要点5. 用自然语言生成报告。”记忆层是经验库。没有记忆的Agent就像金鱼每次对话都是全新的开始。记忆分为短期和长期。短期记忆Short-term Memory通常指当前对话的上下文LLM的Token窗口限制决定了它的容量。长期记忆Long-term Memory则至关重要它让Agent能记住历史对话、执行结果和学到的知识。实现上可以简单用一个向量数据库如ChromaDB, Pinecone来存储每次交互的摘要或关键信息当遇到相关问题时进行检索Retrieval把“记忆”作为上下文喂给LLM。更高级的可以引入知识图谱来存储结构化的关系。工具层是双手。Agent再聪明也需要通过工具来影响现实世界。工具可以是任何可执行的函数调用一个API获取天气、在数据库中执行一条查询、运行一段Python代码进行数据处理、甚至控制一个机械臂。设计工具的关键在于给LLM清晰、安全的“使用说明书”工具描述并建立一个可靠的调用与结果返回机制。通常我们会用一个工具注册表来管理所有可用工具控制流层根据需求选择并执行。注意架构设计的第一原则是“解耦”。务必确保这三层之间的边界清晰。控制流层不应该知道工具的具体实现只通过标准接口调用记忆层应该独立存储不依赖特定任务。这样未来你想换一个更强的LLM、增加新的工具、或升级记忆系统时代价会小很多。2.2 通信与状态管理让信息流动起来Agent内部各模块之间以及多个Agent协作时需要一套通信协议。最简单的就是基于事件或消息队列。例如工具执行完成后会发布一个“Tool_Completed”事件并携带结果数据控制流层监听这个事件接收结果后进行下一步决策。状态管理则关乎Agent的“当下”。它当前正在执行哪个主任务子任务进行到哪一步了遇到了什么错误这些信息需要被持久化地记录下来尤其是在长时间运行或意外中断后需要恢复的场景。一个简单的做法是维护一个“任务状态机”将任务分解为多个状态如Pending, Executing, Waiting for Tool, Completed, Failed并记录当前状态和上下文数据。这样Agent重启后可以读取状态从断点继续。3. 模式选择找到最适合你场景的智能范式架构是骨架模式则是灵魂。不同的任务类型适合不同的Agent运作模式。选对了模式事半功倍。3.1 单一任务Agent vs. 多Agent协作系统对于目标明确、流程固定的任务一个单一任务Agent就足够了。比如一个专门从指定网页抓取信息并整理成表格的Agent。它的控制流简单直接工具集也相对固定。开发速度快易于调试和维护。但当任务变得极其复杂涉及多个专业领域时就需要多Agent协作系统。这就像一个特种部队小队有侦察兵、狙击手、爆破手。你可以设计一个“主管Agent”Manager负责接收总指令和任务分解然后将子任务分发给不同的“专家Agent”Specialist如数据分析Agent、文案撰写Agent、代码审查Agent。Agent之间通过约定的通信协议如发布/订阅消息来交换信息和结果。实操心得不要一开始就追求复杂的多Agent系统。绝大多数需求一个设计良好的单一Agent就能满足。先从单一Agent做起把核心链路跑通。当你在单一Agent中明显感觉到逻辑臃肿、职责不清时再考虑拆分为多Agent。拆分的原则是“高内聚、低耦合”让每个Agent只做好一件事。3.2 反应式与目标导向式这是两种核心的推理模式。反应式Reactive类似于刺激-反应。Agent根据当前最新的输入用户消息、工具返回结果立即决定下一个动作。它的决策周期短响应快适合对话式、交互式的场景。比如客服聊天机器人用户问什么就答什么。但它的缺点是缺乏长远规划容易在复杂任务中迷失。目标导向式Goal-Oriented则更具前瞻性。Agent首先会明确一个终极目标Goal然后进行反向链式推理制定出一系列步骤Plan再逐步执行。这就是前面提到的“规划Planning”能力。例如目标“写一份行业分析报告”Agent会规划出“搜索资料、阅读总结、拟定大纲、填充内容、润色排版”等步骤。这种方式能处理复杂任务但对LLM的推理能力要求高且一旦规划有误可能全盘皆输。最佳实践是混合使用。让Agent在高层采用目标导向式进行总体规划在每一步的具体执行中采用反应式快速响应。同时引入“反思Reflection”机制在执行完一个步骤或遇到困难时让Agent暂停一下评估当前进展与目标的差距必要时调整计划。这模仿了人类的“三思而后行”。4. 实操构建手把手搭建你的第一个Agent理论说了这么多我们动手搭一个。假设我们要构建一个“市场调研Agent”它的目标是给定一个公司名自动搜索其最新动态、竞品信息并生成一份简短的摘要报告。4.1 环境准备与核心组件选型首先你需要一个强大的“大脑”。我推荐使用OpenAI的GPT-4系列或Anthropic的Claude 3系列作为控制流层的核心LLM。它们的推理和指令跟随能力目前是顶尖的。国内可以选择DeepSeek、通义千问等优秀的开源或API模型。关键是要选择支持足够长上下文128K以上为佳和函数调用Function Calling的模型后者对于工具调用至关重要。开发框架选择从零开始固然有学习价值但站在巨人肩膀上更高效。LangChain和LlamaIndex是两大主流框架。LangChain更像“胶水”提供了连接LLM、工具、记忆的标准化组件和链Chain灵活性极高但需要更多配置。LlamaIndex在数据连接和检索方面非常出色。对于初学者我建议从LangChain开始它的生态和文档更丰富。另一个新兴的强力选择是Microsoft的AutoGen它专为多Agent对话而设计内置了优秀的Agent对话管理功能。记忆存储对于这个项目我们使用轻量级的ChromaDB作为向量存储来实现长期记忆。它易于安装和集成。工具集我们需要两个核心工具1.网络搜索工具可以使用Serper API便宜且稳定或Google Search API。2.网页内容抓取与摘要工具可以使用BeautifulSoup或Readability相关的库来提取网页正文然后用LLM进行总结。4.2 分步实现核心模块我们使用Python和LangChain来演示关键步骤。第一步搭建基础控制流与工具定义import os from langchain_openai import ChatOpenAI from langchain.agents import AgentExecutor, create_openai_tools_agent from langchain_core.prompts import ChatPromptTemplate, MessagesPlaceholder from langchain.tools import Tool from langchain_community.tools import DuckDuckGoSearchRun from langchain.memory import ConversationBufferMemory # 1. 初始化LLM llm ChatOpenAI(modelgpt-4-turbo-preview, temperature0, api_keyos.getenv(OPENAI_API_KEY)) # 2. 定义工具 # 网络搜索工具 search_tool DuckDuckGoSearchRun(nameweb_search, descriptionUseful for searching the internet for current information about companies, news, or competitors.) # 网页内容摘要工具这里简化实际需结合爬虫和LLM def summarize_webpage(url: str) - str: Fetch and summarize the main content of a webpage. # 这里应实现实际的抓取逻辑如用requestsBeautifulSoup # 假设我们已经获取了纯文本 page_text page_text fetch_webpage_content(url) # 需自行实现 summary_prompt f请用中文简要总结以下网页内容的核心要点不超过200字\n{page_text[:3000]} # 限制输入长度 summary llm.invoke(summary_prompt).content return summary summary_tool Tool( namesummarize_webpage, funcsummarize_webpage, descriptionUseful for getting a concise summary of the main content from a specific webpage URL. ) tools [search_tool, summary_tool] # 3. 构建Agent提示词模板 prompt ChatPromptTemplate.from_messages([ (system, 你是一个专业的市场调研分析师。你的任务是利用所有可用工具全面收集关于目标公司的信息并生成一份结构清晰的摘要报告。 报告需包含公司近期动态、主要竞品信息、市场关注点。 请一步步思考如果需要搜索或查看详情请主动使用工具。), MessagesPlaceholder(variable_namechat_history), # 为记忆留出位置 (human, {input}), MessagesPlaceholder(variable_nameagent_scratchpad), # 为Agent的思考过程留出位置 ]) # 4. 创建记忆 memory ConversationBufferMemory(memory_keychat_history, return_messagesTrue) # 5. 组装Agent agent create_openai_tools_agent(llm, tools, prompt) agent_executor AgentExecutor(agentagent, toolstools, memorymemory, verboseTrue, handle_parsing_errorsTrue)第二步实现任务规划与执行逻辑上面的基础Agent是反应式的。为了让它具备目标导向的规划能力我们需要改进提示词并可能引入更复杂的链。一个简单有效的办法是在系统提示词中明确要求其进行规划。但更可靠的方式是使用LangChain的Plan-and-Execute模式或者自己实现一个顶层规划器。这里我们采用一个简化版的自定义规划让LLM先输出一个JSON格式的计划。def run_market_research_agent(company_name: str): 目标导向的执行函数 # 第一步生成调研计划 planning_prompt f 请为调研公司“{company_name}”制定一个分步计划。 输出一个JSON数组每个元素是一个步骤对象包含 step步骤序号、action动作描述、tool建议使用的工具可选‘web_search’或‘summarize_webpage’。 例如[{{step: 1, action: 搜索{company_name}的最新新闻和公告, tool: web_search}}] plan_response llm.invoke(planning_prompt) # 这里需要解析LLM返回的JSON实际应用中需加入健壮的解析和错误处理 import json try: plan json.loads(plan_response.content) except: # 如果解析失败退回到一个默认计划 plan [ {step: 1, action: f搜索{company_name}的最新新闻, tool: web_search}, {step: 2, action: f搜索{company_name}的主要竞争对手, tool: web_search}, {step: 3, action: 对找到的关键网页进行摘要, tool: summarize_webpage} ] # 第二步按计划执行 context {} for step_item in plan: step step_item[step] action step_item[action] suggested_tool step_item.get(tool) print(f\n 执行步骤 {step}: {action} ) # 将动作转化为给Agent的指令 # 这里可以更智能比如把上一步的结果作为上下文传入 instruction f{action}。请专注于获取与‘{company_name}’相关的信息。 result agent_executor.invoke({input: instruction}) context[fstep_{step}_result] result[output] # 第三步综合所有信息生成最终报告 synthesis_prompt f 你已完成对‘{company_name}’的所有调研步骤。以下是分步收集到的信息 {json.dumps(context, indent2, ensure_asciiFalse)} 请基于以上信息生成一份最终的市场调研摘要报告要求结构清晰包含“近期动态”、“竞品分析”、“市场关注点”三个部分并用中文呈现。 final_report llm.invoke(synthesis_prompt).content return final_report # 运行示例 if __name__ __main__: report run_market_research_agent(字节跳动) print(\n *50) print(最终调研报告) print(*50) print(report)这个示例展示了从规划到执行再到总结的基本闭环。agent_executor在执行每个步骤时会利用其内部的工具和记忆而顶层的run_market_research_agent函数负责宏观协调。4.3 引入记忆与反思机制为了让Agent更“聪明”我们需要给上面例子中的agent_executor注入长期记忆并在每一步后加入简单的反思。增强记忆将ConversationBufferMemory替换为能存储到向量数据库的记忆组件。from langchain.vectorstores import Chroma from langchain.embeddings import OpenAIEmbeddings from langchain.memory import VectorStoreRetrieverMemory embeddings OpenAIEmbeddings() vectorstore Chroma(embedding_functionembeddings, persist_directory./chroma_db_memory) retriever vectorstore.as_retriever(search_kwargsdict(k3)) # 检索最相关的3条记忆 memory VectorStoreRetrieverMemory(retrieverretriever, memory_keychat_history) # 之后在创建agent_executor时使用这个memory加入反思在每个主要步骤执行后让Agent自己评估一下。def execute_step_with_reflection(step_info, previous_context): # 执行原步骤... result agent_executor.invoke({input: step_info[instruction]}) # 反思环节 reflection_prompt f 你刚完成了以下动作{step_info[action]}。 得到的结果是{result[output][:500]}... 截取部分 请思考 1. 这个结果是否直接回答了我们的问题或推进了任务 2. 信息是否足够是否需要从其他角度补充搜索或深入查看某个链接 请给出你的反思和下一步建议如果有的话。 reflection llm.invoke(reflection_prompt).content print(f\n[反思]{reflection}) # 根据反思结果可能动态添加新的步骤到计划中 # ... (此处可添加逻辑例如如果反思认为信息不足则插入一个新的搜索步骤) return result, reflection5. 避坑指南与性能优化实战构建过程中会遇到无数个坑这里分享几个最典型的。5.1 提示词工程如何与LLM有效沟通提示词是操控LLM的“方向盘”。糟糕的提示词会让最强大的模型表现失常。坑1指令模糊。不要只说“分析这家公司”。要说“请以投资分析师的身份从财务健康度、市场增长潜力和竞争壁垒三个维度分析XX公司并列出最突出的两个风险和两个机会。”坑2缺少格式约束。当你需要结构化输出如JSON、列表时一定要在提示词中明确指定格式并给出示例。LLM擅长模仿。坑3上下文混乱。在长对话或多步任务中及时清理或总结上下文至关重要。避免将无关的历史对话全部塞进去这会导致模型注意力分散。可以使用MessagesPlaceholder配合记忆检索只放入相关的历史信息。优化技巧采用“角色-任务-步骤-格式”模板。你是一个[角色如资深市场研究员]。 你的核心任务是[总目标如生成一份可执行的投资建议]。 请按以下步骤操作 1. [第一步具体指令] 2. [第二步具体指令] ... 最后请以[指定格式如Markdown表格]输出包含以下字段[字段1 字段2]。5.2 工具调用的稳定性与错误处理工具调用失败是家常便饭。API限流、网络超时、网页结构变化都会导致错误。策略1超时与重试机制。为每个工具调用包装一个带有指数退避的重试逻辑。from tenacity import retry, stop_after_attempt, wait_exponential retry(stopstop_after_attempt(3), waitwait_exponential(multiplier1, min2, max10)) def call_tool_safely(tool_func, *args, **kwargs): return tool_func(*args, **kwargs)策略2结果验证与降级方案。工具返回结果后让LLM快速判断结果的有效性。例如搜索工具返回了10条结果可以让LLM判断“哪一条最相关”。如果不相关或出错则触发备用工具或使用缓存的历史数据。策略3工具描述至关重要。给工具的description字段必须清晰、准确说明输入输出是什么在什么情况下使用。这是LLM选择工具的唯一依据。糟糕的描述会导致LLM“乱用工具”。5.3 控制成本与延迟使用商用LLM API成本和响应速度是必须考虑的。成本控制缓存对相同的查询或中间结果进行缓存。可以使用langchain.cache如SQLiteCache或Redis。精简上下文定期总结长对话用摘要代替原始长文本放入上下文。模型分级对不同的任务使用不同价格的模型。复杂的规划用GPT-4简单的摘要或格式化用GPT-3.5-Turbo。延迟优化并行化如果多个步骤间没有依赖关系可以并行执行。例如搜索公司新闻和搜索竞品信息可以同时进行。流式输出对于需要长时间生成最终报告的任务可以采用流式输出让用户先看到部分结果。设置超时对每个LLM调用或工具调用设置合理的超时时间避免整个流程被一个慢请求卡死。5.4 评估与迭代你的Agent真的在变好吗没有评估优化就无从谈起。不要只靠“感觉”。定义评估指标任务完成率给定10个标准测试任务成功完成几个步骤效率完成同一个任务平均需要调用多少次工具多少次LLM交互次数越少通常说明规划越高效结果质量人工或用一个“裁判”LLM对输出结果进行评分如1-5分评估其准确性、完整性和可用性。建立测试集维护一个涵盖各种边界案例的测试任务集。每次对Agent尤其是提示词或架构做出重大修改后都跑一遍测试集对比关键指标的变化。持续迭代根据评估结果有针对性地优化。如果是规划出错就改进规划提示词或引入更强大的规划器如LLMP的框架如果是工具调用不准就优化工具描述或增加工具选择时的验证步骤。6. 进阶方向从能用走向好用当你的基础Agent稳定运行后可以考虑下面这些进阶方向让它从“玩具”变成真正的“生产力”。实现真正的自主规划与反思研究并集成更先进的规划框架如Tree of Thoughts (ToT)或Reasoning via Planning (RAP)。让Agent不仅能规划还能在遇到障碍时进行深度推理生成多种假设并验证。动态工具学习让Agent能够根据任务描述自动发现、学习并使用新工具。例如你告诉它“去查一下纽约的实时交通情况”它能自己找到并调用一个合适的交通API而不需要你预先编程。多模态能力集成为Agent装上“眼睛”。接入视觉理解模型如GPT-4V使其能分析截图、图表、产品图片极大扩展应用场景比如自动分析UI设计稿并生成前端代码。建立Agent运行监控与可观测性记录Agent的每一次决策、工具调用和结果。这不仅能帮助调试还能通过分析这些日志发现Agent的思维模式缺陷或工具使用偏好为进一步优化提供数据支持。构建AI Agent是一个持续迭代和优化的过程。它没有终极的完美方案只有最适合你当前场景的平衡点。从这个小而美的市场调研Agent开始一步步扩展它的能力边界你会深刻体会到所谓的人工智能正是在这样一个个具体的、可解的工程问题中逐渐成长起来的。最关键的是开始动手并在实践中不断思考和调整。 从零构建AI Agent：架构设计、模式选择与实战避坑指南
1. 项目概述为什么现在要自己动手造一个AI Agent最近两年AI Agent这个概念火得不行。从能帮你写代码的Devin到能自主规划任务的AutoGPT再到各种“数字员工”好像不提Agent就落伍了。但说实话很多朋友对这个概念的理解还停留在“一个能联网、能调用工具的ChatGPT”层面。市面上的产品要么是黑盒要么功能固定要么价格不菲。当你真正想把它嵌入到自己的业务流里解决一个具体问题时往往会发现要么它不够灵活要么它太“笨”要么它根本不符合你的场景。这就是为什么我们需要“从零构建”。这不仅仅是为了学习更是为了获得真正的掌控力。自己动手意味着你可以精确地定义Agent的“大脑”决策逻辑、“手”工具调用和“眼睛”感知输入让它完美适配你的需求——无论是自动化处理客服工单、智能分析市场报告还是管理你的个人知识库。这个过程本质上是在设计一个能够理解目标、规划路径、执行动作并持续学习的智能体。今天我就结合自己趟过的坑和你聊聊怎么从一张白纸开始搭出一个既聪明又实用的AI Agent。2. 核心架构设计为你的Agent打造坚实骨架一个健壮的AI Agent不是一堆脚本的堆砌它需要一个清晰、可扩展的架构。我们可以把它类比成一个创业团队需要明确的分工、高效的沟通机制和清晰的决策流程。2.1 经典三层架构控制流、记忆体与工具集目前最主流也最实用的架构可以划分为三层控制流层Orchestrator、记忆层Memory和工具层Tools/Actuators。控制流层是大脑。它负责接收用户或系统的指令目标进行任务分解Planning决定每一步该做什么Reasoning并调用相应的工具。这是Agent智能的核心。常见的实现方式是用一个大语言模型LLM作为“指挥官”通过精心设计的提示词Prompt引导它进行思考。比如当你对Agent说“帮我分析一下上个月的销售数据并总结出三个关键洞察”控制流层需要理解这个复杂指令并将其拆解为“1. 找到上个月的销售数据文件2. 读取并理解数据内容3. 调用数据分析工具进行计算4. 根据结果归纳出三个要点5. 用自然语言生成报告。”记忆层是经验库。没有记忆的Agent就像金鱼每次对话都是全新的开始。记忆分为短期和长期。短期记忆Short-term Memory通常指当前对话的上下文LLM的Token窗口限制决定了它的容量。长期记忆Long-term Memory则至关重要它让Agent能记住历史对话、执行结果和学到的知识。实现上可以简单用一个向量数据库如ChromaDB, Pinecone来存储每次交互的摘要或关键信息当遇到相关问题时进行检索Retrieval把“记忆”作为上下文喂给LLM。更高级的可以引入知识图谱来存储结构化的关系。工具层是双手。Agent再聪明也需要通过工具来影响现实世界。工具可以是任何可执行的函数调用一个API获取天气、在数据库中执行一条查询、运行一段Python代码进行数据处理、甚至控制一个机械臂。设计工具的关键在于给LLM清晰、安全的“使用说明书”工具描述并建立一个可靠的调用与结果返回机制。通常我们会用一个工具注册表来管理所有可用工具控制流层根据需求选择并执行。注意架构设计的第一原则是“解耦”。务必确保这三层之间的边界清晰。控制流层不应该知道工具的具体实现只通过标准接口调用记忆层应该独立存储不依赖特定任务。这样未来你想换一个更强的LLM、增加新的工具、或升级记忆系统时代价会小很多。2.2 通信与状态管理让信息流动起来Agent内部各模块之间以及多个Agent协作时需要一套通信协议。最简单的就是基于事件或消息队列。例如工具执行完成后会发布一个“Tool_Completed”事件并携带结果数据控制流层监听这个事件接收结果后进行下一步决策。状态管理则关乎Agent的“当下”。它当前正在执行哪个主任务子任务进行到哪一步了遇到了什么错误这些信息需要被持久化地记录下来尤其是在长时间运行或意外中断后需要恢复的场景。一个简单的做法是维护一个“任务状态机”将任务分解为多个状态如Pending, Executing, Waiting for Tool, Completed, Failed并记录当前状态和上下文数据。这样Agent重启后可以读取状态从断点继续。3. 模式选择找到最适合你场景的智能范式架构是骨架模式则是灵魂。不同的任务类型适合不同的Agent运作模式。选对了模式事半功倍。3.1 单一任务Agent vs. 多Agent协作系统对于目标明确、流程固定的任务一个单一任务Agent就足够了。比如一个专门从指定网页抓取信息并整理成表格的Agent。它的控制流简单直接工具集也相对固定。开发速度快易于调试和维护。但当任务变得极其复杂涉及多个专业领域时就需要多Agent协作系统。这就像一个特种部队小队有侦察兵、狙击手、爆破手。你可以设计一个“主管Agent”Manager负责接收总指令和任务分解然后将子任务分发给不同的“专家Agent”Specialist如数据分析Agent、文案撰写Agent、代码审查Agent。Agent之间通过约定的通信协议如发布/订阅消息来交换信息和结果。实操心得不要一开始就追求复杂的多Agent系统。绝大多数需求一个设计良好的单一Agent就能满足。先从单一Agent做起把核心链路跑通。当你在单一Agent中明显感觉到逻辑臃肿、职责不清时再考虑拆分为多Agent。拆分的原则是“高内聚、低耦合”让每个Agent只做好一件事。3.2 反应式与目标导向式这是两种核心的推理模式。反应式Reactive类似于刺激-反应。Agent根据当前最新的输入用户消息、工具返回结果立即决定下一个动作。它的决策周期短响应快适合对话式、交互式的场景。比如客服聊天机器人用户问什么就答什么。但它的缺点是缺乏长远规划容易在复杂任务中迷失。目标导向式Goal-Oriented则更具前瞻性。Agent首先会明确一个终极目标Goal然后进行反向链式推理制定出一系列步骤Plan再逐步执行。这就是前面提到的“规划Planning”能力。例如目标“写一份行业分析报告”Agent会规划出“搜索资料、阅读总结、拟定大纲、填充内容、润色排版”等步骤。这种方式能处理复杂任务但对LLM的推理能力要求高且一旦规划有误可能全盘皆输。最佳实践是混合使用。让Agent在高层采用目标导向式进行总体规划在每一步的具体执行中采用反应式快速响应。同时引入“反思Reflection”机制在执行完一个步骤或遇到困难时让Agent暂停一下评估当前进展与目标的差距必要时调整计划。这模仿了人类的“三思而后行”。4. 实操构建手把手搭建你的第一个Agent理论说了这么多我们动手搭一个。假设我们要构建一个“市场调研Agent”它的目标是给定一个公司名自动搜索其最新动态、竞品信息并生成一份简短的摘要报告。4.1 环境准备与核心组件选型首先你需要一个强大的“大脑”。我推荐使用OpenAI的GPT-4系列或Anthropic的Claude 3系列作为控制流层的核心LLM。它们的推理和指令跟随能力目前是顶尖的。国内可以选择DeepSeek、通义千问等优秀的开源或API模型。关键是要选择支持足够长上下文128K以上为佳和函数调用Function Calling的模型后者对于工具调用至关重要。开发框架选择从零开始固然有学习价值但站在巨人肩膀上更高效。LangChain和LlamaIndex是两大主流框架。LangChain更像“胶水”提供了连接LLM、工具、记忆的标准化组件和链Chain灵活性极高但需要更多配置。LlamaIndex在数据连接和检索方面非常出色。对于初学者我建议从LangChain开始它的生态和文档更丰富。另一个新兴的强力选择是Microsoft的AutoGen它专为多Agent对话而设计内置了优秀的Agent对话管理功能。记忆存储对于这个项目我们使用轻量级的ChromaDB作为向量存储来实现长期记忆。它易于安装和集成。工具集我们需要两个核心工具1.网络搜索工具可以使用Serper API便宜且稳定或Google Search API。2.网页内容抓取与摘要工具可以使用BeautifulSoup或Readability相关的库来提取网页正文然后用LLM进行总结。4.2 分步实现核心模块我们使用Python和LangChain来演示关键步骤。第一步搭建基础控制流与工具定义import os from langchain_openai import ChatOpenAI from langchain.agents import AgentExecutor, create_openai_tools_agent from langchain_core.prompts import ChatPromptTemplate, MessagesPlaceholder from langchain.tools import Tool from langchain_community.tools import DuckDuckGoSearchRun from langchain.memory import ConversationBufferMemory # 1. 初始化LLM llm ChatOpenAI(modelgpt-4-turbo-preview, temperature0, api_keyos.getenv(OPENAI_API_KEY)) # 2. 定义工具 # 网络搜索工具 search_tool DuckDuckGoSearchRun(nameweb_search, descriptionUseful for searching the internet for current information about companies, news, or competitors.) # 网页内容摘要工具这里简化实际需结合爬虫和LLM def summarize_webpage(url: str) - str: Fetch and summarize the main content of a webpage. # 这里应实现实际的抓取逻辑如用requestsBeautifulSoup # 假设我们已经获取了纯文本 page_text page_text fetch_webpage_content(url) # 需自行实现 summary_prompt f请用中文简要总结以下网页内容的核心要点不超过200字\n{page_text[:3000]} # 限制输入长度 summary llm.invoke(summary_prompt).content return summary summary_tool Tool( namesummarize_webpage, funcsummarize_webpage, descriptionUseful for getting a concise summary of the main content from a specific webpage URL. ) tools [search_tool, summary_tool] # 3. 构建Agent提示词模板 prompt ChatPromptTemplate.from_messages([ (system, 你是一个专业的市场调研分析师。你的任务是利用所有可用工具全面收集关于目标公司的信息并生成一份结构清晰的摘要报告。 报告需包含公司近期动态、主要竞品信息、市场关注点。 请一步步思考如果需要搜索或查看详情请主动使用工具。), MessagesPlaceholder(variable_namechat_history), # 为记忆留出位置 (human, {input}), MessagesPlaceholder(variable_nameagent_scratchpad), # 为Agent的思考过程留出位置 ]) # 4. 创建记忆 memory ConversationBufferMemory(memory_keychat_history, return_messagesTrue) # 5. 组装Agent agent create_openai_tools_agent(llm, tools, prompt) agent_executor AgentExecutor(agentagent, toolstools, memorymemory, verboseTrue, handle_parsing_errorsTrue)第二步实现任务规划与执行逻辑上面的基础Agent是反应式的。为了让它具备目标导向的规划能力我们需要改进提示词并可能引入更复杂的链。一个简单有效的办法是在系统提示词中明确要求其进行规划。但更可靠的方式是使用LangChain的Plan-and-Execute模式或者自己实现一个顶层规划器。这里我们采用一个简化版的自定义规划让LLM先输出一个JSON格式的计划。def run_market_research_agent(company_name: str): 目标导向的执行函数 # 第一步生成调研计划 planning_prompt f 请为调研公司“{company_name}”制定一个分步计划。 输出一个JSON数组每个元素是一个步骤对象包含 step步骤序号、action动作描述、tool建议使用的工具可选‘web_search’或‘summarize_webpage’。 例如[{{step: 1, action: 搜索{company_name}的最新新闻和公告, tool: web_search}}] plan_response llm.invoke(planning_prompt) # 这里需要解析LLM返回的JSON实际应用中需加入健壮的解析和错误处理 import json try: plan json.loads(plan_response.content) except: # 如果解析失败退回到一个默认计划 plan [ {step: 1, action: f搜索{company_name}的最新新闻, tool: web_search}, {step: 2, action: f搜索{company_name}的主要竞争对手, tool: web_search}, {step: 3, action: 对找到的关键网页进行摘要, tool: summarize_webpage} ] # 第二步按计划执行 context {} for step_item in plan: step step_item[step] action step_item[action] suggested_tool step_item.get(tool) print(f\n 执行步骤 {step}: {action} ) # 将动作转化为给Agent的指令 # 这里可以更智能比如把上一步的结果作为上下文传入 instruction f{action}。请专注于获取与‘{company_name}’相关的信息。 result agent_executor.invoke({input: instruction}) context[fstep_{step}_result] result[output] # 第三步综合所有信息生成最终报告 synthesis_prompt f 你已完成对‘{company_name}’的所有调研步骤。以下是分步收集到的信息 {json.dumps(context, indent2, ensure_asciiFalse)} 请基于以上信息生成一份最终的市场调研摘要报告要求结构清晰包含“近期动态”、“竞品分析”、“市场关注点”三个部分并用中文呈现。 final_report llm.invoke(synthesis_prompt).content return final_report # 运行示例 if __name__ __main__: report run_market_research_agent(字节跳动) print(\n *50) print(最终调研报告) print(*50) print(report)这个示例展示了从规划到执行再到总结的基本闭环。agent_executor在执行每个步骤时会利用其内部的工具和记忆而顶层的run_market_research_agent函数负责宏观协调。4.3 引入记忆与反思机制为了让Agent更“聪明”我们需要给上面例子中的agent_executor注入长期记忆并在每一步后加入简单的反思。增强记忆将ConversationBufferMemory替换为能存储到向量数据库的记忆组件。from langchain.vectorstores import Chroma from langchain.embeddings import OpenAIEmbeddings from langchain.memory import VectorStoreRetrieverMemory embeddings OpenAIEmbeddings() vectorstore Chroma(embedding_functionembeddings, persist_directory./chroma_db_memory) retriever vectorstore.as_retriever(search_kwargsdict(k3)) # 检索最相关的3条记忆 memory VectorStoreRetrieverMemory(retrieverretriever, memory_keychat_history) # 之后在创建agent_executor时使用这个memory加入反思在每个主要步骤执行后让Agent自己评估一下。def execute_step_with_reflection(step_info, previous_context): # 执行原步骤... result agent_executor.invoke({input: step_info[instruction]}) # 反思环节 reflection_prompt f 你刚完成了以下动作{step_info[action]}。 得到的结果是{result[output][:500]}... 截取部分 请思考 1. 这个结果是否直接回答了我们的问题或推进了任务 2. 信息是否足够是否需要从其他角度补充搜索或深入查看某个链接 请给出你的反思和下一步建议如果有的话。 reflection llm.invoke(reflection_prompt).content print(f\n[反思]{reflection}) # 根据反思结果可能动态添加新的步骤到计划中 # ... (此处可添加逻辑例如如果反思认为信息不足则插入一个新的搜索步骤) return result, reflection5. 避坑指南与性能优化实战构建过程中会遇到无数个坑这里分享几个最典型的。5.1 提示词工程如何与LLM有效沟通提示词是操控LLM的“方向盘”。糟糕的提示词会让最强大的模型表现失常。坑1指令模糊。不要只说“分析这家公司”。要说“请以投资分析师的身份从财务健康度、市场增长潜力和竞争壁垒三个维度分析XX公司并列出最突出的两个风险和两个机会。”坑2缺少格式约束。当你需要结构化输出如JSON、列表时一定要在提示词中明确指定格式并给出示例。LLM擅长模仿。坑3上下文混乱。在长对话或多步任务中及时清理或总结上下文至关重要。避免将无关的历史对话全部塞进去这会导致模型注意力分散。可以使用MessagesPlaceholder配合记忆检索只放入相关的历史信息。优化技巧采用“角色-任务-步骤-格式”模板。你是一个[角色如资深市场研究员]。 你的核心任务是[总目标如生成一份可执行的投资建议]。 请按以下步骤操作 1. [第一步具体指令] 2. [第二步具体指令] ... 最后请以[指定格式如Markdown表格]输出包含以下字段[字段1 字段2]。5.2 工具调用的稳定性与错误处理工具调用失败是家常便饭。API限流、网络超时、网页结构变化都会导致错误。策略1超时与重试机制。为每个工具调用包装一个带有指数退避的重试逻辑。from tenacity import retry, stop_after_attempt, wait_exponential retry(stopstop_after_attempt(3), waitwait_exponential(multiplier1, min2, max10)) def call_tool_safely(tool_func, *args, **kwargs): return tool_func(*args, **kwargs)策略2结果验证与降级方案。工具返回结果后让LLM快速判断结果的有效性。例如搜索工具返回了10条结果可以让LLM判断“哪一条最相关”。如果不相关或出错则触发备用工具或使用缓存的历史数据。策略3工具描述至关重要。给工具的description字段必须清晰、准确说明输入输出是什么在什么情况下使用。这是LLM选择工具的唯一依据。糟糕的描述会导致LLM“乱用工具”。5.3 控制成本与延迟使用商用LLM API成本和响应速度是必须考虑的。成本控制缓存对相同的查询或中间结果进行缓存。可以使用langchain.cache如SQLiteCache或Redis。精简上下文定期总结长对话用摘要代替原始长文本放入上下文。模型分级对不同的任务使用不同价格的模型。复杂的规划用GPT-4简单的摘要或格式化用GPT-3.5-Turbo。延迟优化并行化如果多个步骤间没有依赖关系可以并行执行。例如搜索公司新闻和搜索竞品信息可以同时进行。流式输出对于需要长时间生成最终报告的任务可以采用流式输出让用户先看到部分结果。设置超时对每个LLM调用或工具调用设置合理的超时时间避免整个流程被一个慢请求卡死。5.4 评估与迭代你的Agent真的在变好吗没有评估优化就无从谈起。不要只靠“感觉”。定义评估指标任务完成率给定10个标准测试任务成功完成几个步骤效率完成同一个任务平均需要调用多少次工具多少次LLM交互次数越少通常说明规划越高效结果质量人工或用一个“裁判”LLM对输出结果进行评分如1-5分评估其准确性、完整性和可用性。建立测试集维护一个涵盖各种边界案例的测试任务集。每次对Agent尤其是提示词或架构做出重大修改后都跑一遍测试集对比关键指标的变化。持续迭代根据评估结果有针对性地优化。如果是规划出错就改进规划提示词或引入更强大的规划器如LLMP的框架如果是工具调用不准就优化工具描述或增加工具选择时的验证步骤。6. 进阶方向从能用走向好用当你的基础Agent稳定运行后可以考虑下面这些进阶方向让它从“玩具”变成真正的“生产力”。实现真正的自主规划与反思研究并集成更先进的规划框架如Tree of Thoughts (ToT)或Reasoning via Planning (RAP)。让Agent不仅能规划还能在遇到障碍时进行深度推理生成多种假设并验证。动态工具学习让Agent能够根据任务描述自动发现、学习并使用新工具。例如你告诉它“去查一下纽约的实时交通情况”它能自己找到并调用一个合适的交通API而不需要你预先编程。多模态能力集成为Agent装上“眼睛”。接入视觉理解模型如GPT-4V使其能分析截图、图表、产品图片极大扩展应用场景比如自动分析UI设计稿并生成前端代码。建立Agent运行监控与可观测性记录Agent的每一次决策、工具调用和结果。这不仅能帮助调试还能通过分析这些日志发现Agent的思维模式缺陷或工具使用偏好为进一步优化提供数据支持。构建AI Agent是一个持续迭代和优化的过程。它没有终极的完美方案只有最适合你当前场景的平衡点。从这个小而美的市场调研Agent开始一步步扩展它的能力边界你会深刻体会到所谓的人工智能正是在这样一个个具体的、可解的工程问题中逐渐成长起来的。最关键的是开始动手并在实践中不断思考和调整。