如果说过去十年程序员的核心竞争力是“会写代码”那接下来几年这个定义会被改写得相当彻底。今天我们要聊的不是某个新框架也不是某个新语言而是一种正在重构开发方式的范式转移——从“古法编程”到 AI Agent 开发的跃迁。所谓“古法编程”就是我们从教科书里学的那套拿到需求拆成功能模块设计数据结构写接口写业务逻辑处理异常最后实现一个输入到输出的固定映射。这套方法本身没有问题但它有一个隐藏前提——所有步骤都依赖程序员事无巨细地给出指令。而 AI Agent 开发换了一种思路程序员不再逐行规定机器“怎么做”而是告诉 AI“要什么结果、有什么工具、边界在哪里”然后让模型自主规划任务、调用工具、验证结果、修正错误最终交付一个可运行的任务闭环。这篇文章不会给你讲空的“Agent 概念”而是直接回答几个实际问题Agent 开发和传统开发到底差在哪需要什么样的硬件和运行环境怎么用 Python 从一个可运行的工具函数开始搭出一个真正能“干活”的 Agent怎么把它封装成 API 服务并支持批量任务Token、上下文、模型调用延迟等资源问题怎么观察和优化过程中会遇到哪些常见坑怎么排查如果你目前用过 Cursor、GitHub Copilot 这类 AI 编程助手或者对 Function Calling、Tool Use、LangChain、AutoGen 这些词多少有些关注那这篇文章就是帮你把这些碎片串起来形成一条可落地的 Agent 开发路径。1. 核心能力速览先给你一张信息密度比较高的速览表把“古法编程”和“AI Agent 开发”之间的关键差异先摆出来。对比项古法编程传统开发AI Agent 开发需求表达方式程序员逐行写指令逻辑路径完全由代码固定用自然语言 约束条件描述目标模型自主规划步骤逻辑来源手写规则、条件分支、算法大模型推理 工具调用 外挂上下文任务边界输入输出严格定义异常情况需要手写兜底模型根据上下文自主判断允许策略性退路主要开发成本写代码、调试、维护逻辑分支设计提示词、定义工具接口、管理上下文与数据流可扩展性新增能力 新增业务逻辑代码新增能力 注册一个工具函数让模型知道“有这个工具”典型运行环境任意 CPU 服务器需要调用 LLM API或本地部署推理服务顶配要求低普通服务器即可依赖模型推理延迟和 Token 成本建议预留 GPU 或 API 预算适合任务流程确定、规则明确、高并发稳定的业务目标开放、需要信息检索/总结/多步推理的复杂任务看完这张表你就能明白Agent 开发并不是要完全取代传统开发。它更像是一种“延迟绑定”——你不再把所有逻辑提前写成死代码而是把一部分逻辑“分包”给大模型在运行时动态生成执行路径。这里需要特别说明当前主流的 Agent 开发框架例如 LangChain、LlamaIndex、AutoGen以及各类开源 Agent 项目在普通开发机上都能运行因为真正吃算力的是背后的 LLM 推理服务。如果你选择调用云端 API那么本机只需要 Python 环境和网络如果你要本地部署 7B/13B/70B 级别的模型再考虑显存和推理框架的问题。2. 适用场景与使用边界2.1 最适合的场景Agent 开发最适合那种“规则不固定但人类知道该用什么工具去解决”的任务。举几个实际的例子日志智能分析给 Agent 一个 Elasticsearch 查询工具让它根据用户的自然语言问题自己拼 DSL 查询日志、聚合统计、生成结论报告。数据报表生成Agent 连接数据库查询工具根据需求自动写 SQL、执行查询、整理 Markdown 报表。客户工单分类与回复Agent 读取工单内容搜索知识库生成答案草稿。文档批量处理批量读取 PDF、Word、Excel按指定结构抽取信息并回填到表格。代码仓库理解与重构让 Agent 调用代码搜索、文件读取工具跨文件梳理调用链输出重构方案。这类任务的共同点是单步操作其实不复杂但整体流程长、变数多如果全部用传统代码写死边界条件会膨胀到难以维护。Agent 的价值在于它能把“语义理解 任务规划 工具编排”这件事自动化。2.2 不适合的场景不是所有任务都适合 Agent下面几种情况建议谨慎实时性要求极高、延迟必须稳定在几十毫秒以内的场景Agent 多轮推理和工具调用的耗时可能无法满足。涉及大量确定性计算、严格公式、强约束规则的任务直接写代码更可靠、成本更低。数据隐私和合规要求极高且不允许数据离开内网的场景必须自建推理服务成本门槛会明显提高。需要完全可解释、可审计、可测试所有分支的金融、医疗核心链路Agent 的“动态规划”会让测试和审计变得更复杂。2.3 使用边界与合规提醒这一点必须单独强调。如果你开发的 Agent 涉及读取用户数据、日志、文档、数据库或调用内部系统 API必须先确认授权范围。特别是涉及人脸、声音、个人隐私、敏感业务数据、版权材料时必须进行脱敏处理、权限控制和操作审计。在测试阶段建议只用脱敏或模拟数据生产环境上线前要对 Agent 能调用的工具做白名单限制避免模型误调用高权限接口。模型本身可能产生幻觉工具调用的权限边界要由代码守住而不是完全交给模型自觉。3. 环境准备与前置条件Agent 开发的运行环境门槛比很多人想象的低。如果你走 API 路线本机只需要Python 3.10 或更高版本主流 Agent 框架对 3.10 的支持最稳pip 包管理工具一个可用的 LLM API KeyOpenAI、DeepSeek、通义千问、Kimi 等兼容接口均可网络访问权限能访问对应 API 的域名如果涉及 Elasticsearch、数据库调用提前准备连接信息和权限如果你要本地部署开源模型硬件门槛就看模型规格了。以常见的量化模型为例7B 级别量化模型大概需要 6G 以上显存13B 级别需要 10G 以上70B 级别通常需要多张 24G 显存显卡或者使用 CPU 内存推理速度会慢很多。这里不写死某个具体数字因为同一模型在不同量化等级、不同上下文长度下的显存占用差别很大应以实际启动日志为准。磁盘方面纯 Python 项目依赖占用不大几百 MB 足够但如果你下载本地模型7B 量化模型通常也要 4G 到 8G70B 量化模型可能超过 40G需要预留足够空间。还要提醒一点如果你的本机已经装了多个 Python 版本建议为 Agent 项目单独创建虚拟环境避免包依赖互相污染。python -m venv agent_env source agent_env/bin/activate # Windows 下执行 agent_env\Scripts\activate4. 从古法编程到 Agent 开发以日志智能分析为例这一节我们用最直接的方式演示从“古法编程”到“Agent 开发”的编码思路变化。场景选一个很常见的分析 Elasticsearch 日志。4.1 古法编程的做法传统做法是写死一条流程接收参数拼一个固定的 ES 查询 DSL调用requests请求_search接口解析返回结果。代码如下def query_es(index: str, level: str ERROR): dsl { query: { bool: { filter: [ {term: {level: level}} ] } }, size: 10 } response requests.post( fhttp://localhost:9200/{index}/_search, jsondsl, timeout30 ) return response.json()这个函数的问题很明显你预设了用户只查levelERROR只返回固定字段。如果用户问“昨天每个服务的错误数量分布是怎样的”“哪些错误在最近 5 分钟出现次数突然变多”你都要手写新的函数和新的 DSL。规则越多代码越厚。4.2 Agent 开发的做法换成 Agent 思路后你依然要写工具函数但你写的是“基础工具”def es_search(index: str, dsl: dict, limit: int 20): 向 Elasticsearch 发起查询dsl 为完整查询体返回 JSON。 if isinstance(dsl, str): dsl json.loads(dsl) dsl[size] limit url fhttp://localhost:9200/{index}/_search resp requests.post(url, jsondsl, timeout30) resp.raise_for_status() return resp.json()然后你把工具函数注册给 Agent并告诉模型“你有一个可以查询 ES 的工具工具的入参是什么返回什么”。tools [ { type: function, function: { name: es_search, description: 查询 Elasticsearch 中的日志索引可以传入自定义 DSL 查询体。, parameters: { type: object, properties: { index: {type: string, description: 日志索引名称}, dsl: {type: object, description: 完整 Elasticsearch DSL 查询体} }, required: [index, dsl] } } } ]这段代码的核心变化是你不再手写“分析逻辑”而是给模型提供了一张“工具说明书”。模型会读用户问题自己决定要不要调用es_search、传什么参数、怎么解读返回结果。4.3 Agent 主循环下面是用 OpenAI SDK 风格写的一个极简 Agent 循环import json import requests from openai import OpenAI client OpenAI(api_keyyour-api-key, base_urlhttps://api.deepseek.com/v1) tools [ # 工具定义同上 ] def call_llm(messages): response client.chat.completions.create( modeldeepseek-chat, messagesmessages, toolstools, tool_choiceauto, ) return response.choices[0].message def run_agent(user_input: str, index: str app-logs): messages [ {role: system, content: 你是一个日志分析助手。用户会提出日志查询需求你可以调用 es_search 工具查询结果需要结合用户问题给出结论。}, {role: user, content: user_input} ] for step in range(5): message call_llm(messages) if not message.tool_calls: print(最终答案, message.content) return message.content messages.append(message) for tool_call in message.tool_calls: if tool_call.function.name es_search: args json.loads(tool_call.function.arguments) # 实际项目中这里要加上权限校验、参数白名单校验 result es_search(index, args[dsl]) messages.append({ role: tool, tool_call_id: tool_call.id, content: json.dumps(result, ensure_asciiFalse)[:4000] }) print(达到最大轮次未完成分析) return None这个循环本质上就是 Agent 的最小实现模型决定调用工具 - 程序执行工具 - 把结果返回给模型 - 模型继续推理。所谓 Agent其实就是在这个循环上叠加更好的规划、记忆、工具管理策略。需要注意上面的base_url和model是我给的通用示例实际项目需要按你使用的服务商调整。使用 OpenAI 官方服务时不需要传base_url使用 DeepSeek、通义千问等兼容服务时需要改成对应的地址和模型名。4.4 判断 Agent 是否“跑起来”的标准完成上面代码后可以试着问这几个问题“今天错误日志里出现次数最多的异常类型是什么”“最近 10 分钟服务 A 的错误数量有没有明显上涨”“帮我统计一下 status 字段为 500 的日志数量。”如果 Agent 能自动生成 DSL、查询 ES 并最终输出一份小结就说明它已经具备基本的“规划 工具调用”能力。如果模型直接返回答案没有调用工具需要检查工具定义里的描述和参数是否写清楚或者把tool_choice临时改成{type: function, function: {name: es_search}}引导一次调用。5. 把 Agent 变成服务API 接口与批量任务单机跑通循环只是第一步。真实业务中你通常要把 Agent 包成一个服务让其他系统调用或者用批量任务处理一批日志文件。5.1 用 FastAPI 封装服务from fastapi import FastAPI from pydantic import BaseModel app FastAPI(titleLog Agent Service) class QueryRequest(BaseModel): question: str index: str app-logs app.post(/agent/analyze) def analyze(req: QueryRequest): result run_agent(req.question, req.index) return {question: req.question, answer: result}启动服务uvicorn main:app --host 0.0.0.0 --port 8000然后你用 curl 测试curl -X POST http://127.0.0.1:8000/agent/analyze \ -H Content-Type: application/json \ -d {question: 统计最近一小时的错误日志数量, index: app-logs}如果你想把 Agent 接入现有系统只需要调整请求参数格式加一层鉴权校验其他逻辑不用变。5.2 批量任务多日志文件场景批量任务的难点在于单个 Agent 调用有延迟和 Token 成本不能让一个请求卡住整个队列。推荐做法是引入异步队列和失败重试。import concurrent.futures def batch_analyze(questions: list[str], index: str): results [] with concurrent.futures.ThreadPoolExecutor(max_workers3) as executor: future_map { executor.submit(run_agent, q, index): q for q in questions } for future in concurrent.futures.as_completed(future_map): q future_map[future] try: answer future.result(timeout60) results.append({question: q, answer: answer}) except Exception as e: results.append({question: q, error: str(e)}) return results这里有几个工程化要点max_workers不要调太大避免同时打爆 API 限流。每个任务加超时时间。失败任务要记录原因不要静默吞掉。批量任务建议把输入、输出、中间结果分别落盘方便回溯。实际生产环境更稳妥的方案是把任务写入 Redis 队列由 Worker 进程消费再把结果写回数据库。这里给的是本地可跑的简化版足够演示思路。6. 资源占用与性能观察6.1 Token 消耗是最大成本Agent 开发最容易忽视的成本是 Token。一次工具调用通常意味着多轮对话每一轮都要把历史消息重新发送给模型Token 消耗会成倍增长。以一个简单的日志分析任务为例假设用户提问 100 Token工具定义 500 Token第一次模型响应 50 Token工具结果 500 Token第二次模型响应 200 Token。一次完整调用就可能消耗上千 Token。如果任务复杂连续调用 3 到 5 次工具消耗会到几千 Token。建议在开发阶段就记录每次请求的usage信息def call_llm_with_usage(messages, tools): response client.chat.completions.create( modeldeepseek-chat, messagesmessages, toolstools, tool_choiceauto, ) usage response.usage print(fprompt_tokens{usage.prompt_tokens}, completion_tokens{usage.completion_tokens}) return response.choices[0].message这样你可以定位是哪一步消耗了过多 Token从而优化提示词或工具返回内容。6.2 工具调用延迟与普通 API 调用相比Agent 的延迟是整个链路叠加的产物。模型推理时间 工具执行时间 多轮往返时间。模型推理通常要 1 到 5 秒取决于模型和输入长度工具执行如果涉及 ES、数据库或外部 HTTP 请求又要 0.1 到 1 秒。多轮下来一个任务几十秒是常态。如果你的业务对响应时间有要求可以用异步接口 轮询而不是让用户同步等待。6.3 如何降低资源消耗控制工具返回内容长度ES 查询结果不用全量返回截取关键字段比如只返回前 20 条、只返回命中总数和 top 异常类型。精简工具描述工具定义会随每次请求发送给模型描述太长会浪费 Token。减少历史消息冗余一轮工具调用结束后把不重要的中间结果丢弃只保留必要的摘要。使用流式输出影响体感延迟但不减少 Token。设置最大轮次和超时防止模型陷入无限循环。6.4 显存与 GPU 观察如果你使用的是云端 API本机不需要关注显存。如果你本地部署模型建议启动推理服务后观察显存占用nvidia-smi -l 1或者使用更细粒度的监控nvidia-smi --query-gpumemory.used,memory.total,utilization.gpu --formatcsv -l 1关注两个时间段模型加载完成但无请求时这是基线占用推理过程中这是峰值占用。如果显存不足通常要降低模型量化等级、减小上下文长度、或换更小的模型。具体占用数字因模型而异这里不做无依据的猜测。7. 常见问题与排查方法问题现象可能原因排查方式解决方案Agent 不调用工具工具定义不清晰或者模型觉得直接回答就行查看 API 返回是否包含 tool_calls 字段优化工具描述或临时强制指定 tool_choice工具调用参数解析失败模型生成的 JSON 不合法或参数类型不匹配打印完整 arguments 原文用json.loads包 try/catch失败时把错误信息返回给模型重试上下文超长多轮工具调用累积了过多历史消息查看 usage.prompt_tokens 是否接近模型上限对历史消息做裁剪或摘要请求超时工具执行太慢或模型推理太长检查单次请求耗时加长超时时间或改为异步任务返回结果幻觉严重模型没有获取到真实数据或工具结果被截断检查工具调用次数和返回内容强制 Agent 必须调用工具后才能下结论并给工具结果加来源标识并发请求 429API 限流查看响应头或错误信息增加重试退避降低并发数批量任务卡死某个任务阻塞或线程池被打满打印每个任务的执行日志增加超时机制和任务级失败标记本地模型显存不足模型量级过大或上下文过长观察 nvidia-smi 输出换小模型、降低上下文、开量化ES 查询权限不足工具调用发出后收到 403检查连接账号权限在工具函数层面做权限控制返回明确错误信息敏感信息泄露工具返回内容包含用户敏感字段审查工具返回内容脱敏后返回或按字段做白名单排查 Agent 问题有一个通用思路不要直接猜模型“想什么”先看请求日志和响应日志。把每一轮的 prompt、tool_calls、tool 结果都打印出来问题基本能定位到是“模型没理解”“工具没执行”还是“结果没传回”。8. 最佳实践与使用建议8.1 先小范围验证再上批量第一次跑 Agent不要一上来就处理几千条日志。先拿 10 个样本问题跑一遍人工检查输出质量确认工具调用路径稳定后再扩大到全量。Agent 不是确定性系统输出结果必须抽检。8.2 提示词要写清“边界”给 Agent 的 system prompt 至少应该包含角色定位、可调用的工具、必须遵守的步骤、禁止做的事情、输出格式要求。比如日志分析 Agent 必须要求“所有结论必须基于工具返回数据禁止猜测”。8.3 工具函数要加统一校验层所有工具函数不能裸奔建议包一层 wrapper统一做权限校验、参数白名单、返回内容截断、敏感字段脱敏。def safe_es_search(index, dsl): if not user_has_permission(es_search, index): return {error: 无权限访问该索引} # 参数白名单校验 result es_search(index, dsl) # 脱敏处理 redact_sensitive_fields(result) # 截断长度 return json.dumps(result, ensure_asciiFalse)[:4000]8.4 日志与审计Agent 的每一步操作都要留痕。建议记录用户输入模型生成的 tool_calls工具函数入参与出参每次调用的 Token 消耗最终输出运行耗时这不仅是排查问题的基础也是合规审计的一部分。8.5 成本控制给 Agent 任务设置预算上限。可以在代码层面对单次任务的 Token 消耗做累计统计超过阈值直接终止本轮并返回“任务过于复杂请简化问题”。9. 总结与下一步从古法编程到 AI Agent 开发最关键的变化不是“写不写代码”而是编程的抽象层次变了从“实现具体逻辑”变成“描述能力边界 定义工具接口 约束模型行为”。代码仍然要写但写的重点变成了工具函数、提示词策略、数据流控制和权限管理。这篇文章演示了一条从零起步的 Agent 开发路径先定义工具再实现一个最小 Agent 循环然后封装成 API 服务最后扩展到批量任务。你可以拿这个模板套到很多场景里——日志分析、数据查询、文档处理、代码分析只需要替换工具函数和提示词。最先值得验证的功能是 Agent 能否在真实数据上稳定完成“理解问题 - 调用工具 - 返回结论”这个闭环。如果这一步能跑通后续的优化方向就很清晰了加入长期记忆、多 Agent 协作、缓存工具结果、接入更多外部系统。最容易踩的坑是低估 Token 成本和工具调用的不确定性。建议所有想在业务里落地 Agent 的团队先拿一个低频、非关键的内部工具场景试水把日志和成本模型跑清楚再考虑推广到核心链路。这篇内容建议收藏备用。后续你可以接着研究 Function Calling 的原理、不同框架的选型对比以及如何把 Agent 接到自己的内部系统里形成真正可用的 AI 应用。 从传统开发到AI Agent：Python构建日志分析智能体实战
如果说过去十年程序员的核心竞争力是“会写代码”那接下来几年这个定义会被改写得相当彻底。今天我们要聊的不是某个新框架也不是某个新语言而是一种正在重构开发方式的范式转移——从“古法编程”到 AI Agent 开发的跃迁。所谓“古法编程”就是我们从教科书里学的那套拿到需求拆成功能模块设计数据结构写接口写业务逻辑处理异常最后实现一个输入到输出的固定映射。这套方法本身没有问题但它有一个隐藏前提——所有步骤都依赖程序员事无巨细地给出指令。而 AI Agent 开发换了一种思路程序员不再逐行规定机器“怎么做”而是告诉 AI“要什么结果、有什么工具、边界在哪里”然后让模型自主规划任务、调用工具、验证结果、修正错误最终交付一个可运行的任务闭环。这篇文章不会给你讲空的“Agent 概念”而是直接回答几个实际问题Agent 开发和传统开发到底差在哪需要什么样的硬件和运行环境怎么用 Python 从一个可运行的工具函数开始搭出一个真正能“干活”的 Agent怎么把它封装成 API 服务并支持批量任务Token、上下文、模型调用延迟等资源问题怎么观察和优化过程中会遇到哪些常见坑怎么排查如果你目前用过 Cursor、GitHub Copilot 这类 AI 编程助手或者对 Function Calling、Tool Use、LangChain、AutoGen 这些词多少有些关注那这篇文章就是帮你把这些碎片串起来形成一条可落地的 Agent 开发路径。1. 核心能力速览先给你一张信息密度比较高的速览表把“古法编程”和“AI Agent 开发”之间的关键差异先摆出来。对比项古法编程传统开发AI Agent 开发需求表达方式程序员逐行写指令逻辑路径完全由代码固定用自然语言 约束条件描述目标模型自主规划步骤逻辑来源手写规则、条件分支、算法大模型推理 工具调用 外挂上下文任务边界输入输出严格定义异常情况需要手写兜底模型根据上下文自主判断允许策略性退路主要开发成本写代码、调试、维护逻辑分支设计提示词、定义工具接口、管理上下文与数据流可扩展性新增能力 新增业务逻辑代码新增能力 注册一个工具函数让模型知道“有这个工具”典型运行环境任意 CPU 服务器需要调用 LLM API或本地部署推理服务顶配要求低普通服务器即可依赖模型推理延迟和 Token 成本建议预留 GPU 或 API 预算适合任务流程确定、规则明确、高并发稳定的业务目标开放、需要信息检索/总结/多步推理的复杂任务看完这张表你就能明白Agent 开发并不是要完全取代传统开发。它更像是一种“延迟绑定”——你不再把所有逻辑提前写成死代码而是把一部分逻辑“分包”给大模型在运行时动态生成执行路径。这里需要特别说明当前主流的 Agent 开发框架例如 LangChain、LlamaIndex、AutoGen以及各类开源 Agent 项目在普通开发机上都能运行因为真正吃算力的是背后的 LLM 推理服务。如果你选择调用云端 API那么本机只需要 Python 环境和网络如果你要本地部署 7B/13B/70B 级别的模型再考虑显存和推理框架的问题。2. 适用场景与使用边界2.1 最适合的场景Agent 开发最适合那种“规则不固定但人类知道该用什么工具去解决”的任务。举几个实际的例子日志智能分析给 Agent 一个 Elasticsearch 查询工具让它根据用户的自然语言问题自己拼 DSL 查询日志、聚合统计、生成结论报告。数据报表生成Agent 连接数据库查询工具根据需求自动写 SQL、执行查询、整理 Markdown 报表。客户工单分类与回复Agent 读取工单内容搜索知识库生成答案草稿。文档批量处理批量读取 PDF、Word、Excel按指定结构抽取信息并回填到表格。代码仓库理解与重构让 Agent 调用代码搜索、文件读取工具跨文件梳理调用链输出重构方案。这类任务的共同点是单步操作其实不复杂但整体流程长、变数多如果全部用传统代码写死边界条件会膨胀到难以维护。Agent 的价值在于它能把“语义理解 任务规划 工具编排”这件事自动化。2.2 不适合的场景不是所有任务都适合 Agent下面几种情况建议谨慎实时性要求极高、延迟必须稳定在几十毫秒以内的场景Agent 多轮推理和工具调用的耗时可能无法满足。涉及大量确定性计算、严格公式、强约束规则的任务直接写代码更可靠、成本更低。数据隐私和合规要求极高且不允许数据离开内网的场景必须自建推理服务成本门槛会明显提高。需要完全可解释、可审计、可测试所有分支的金融、医疗核心链路Agent 的“动态规划”会让测试和审计变得更复杂。2.3 使用边界与合规提醒这一点必须单独强调。如果你开发的 Agent 涉及读取用户数据、日志、文档、数据库或调用内部系统 API必须先确认授权范围。特别是涉及人脸、声音、个人隐私、敏感业务数据、版权材料时必须进行脱敏处理、权限控制和操作审计。在测试阶段建议只用脱敏或模拟数据生产环境上线前要对 Agent 能调用的工具做白名单限制避免模型误调用高权限接口。模型本身可能产生幻觉工具调用的权限边界要由代码守住而不是完全交给模型自觉。3. 环境准备与前置条件Agent 开发的运行环境门槛比很多人想象的低。如果你走 API 路线本机只需要Python 3.10 或更高版本主流 Agent 框架对 3.10 的支持最稳pip 包管理工具一个可用的 LLM API KeyOpenAI、DeepSeek、通义千问、Kimi 等兼容接口均可网络访问权限能访问对应 API 的域名如果涉及 Elasticsearch、数据库调用提前准备连接信息和权限如果你要本地部署开源模型硬件门槛就看模型规格了。以常见的量化模型为例7B 级别量化模型大概需要 6G 以上显存13B 级别需要 10G 以上70B 级别通常需要多张 24G 显存显卡或者使用 CPU 内存推理速度会慢很多。这里不写死某个具体数字因为同一模型在不同量化等级、不同上下文长度下的显存占用差别很大应以实际启动日志为准。磁盘方面纯 Python 项目依赖占用不大几百 MB 足够但如果你下载本地模型7B 量化模型通常也要 4G 到 8G70B 量化模型可能超过 40G需要预留足够空间。还要提醒一点如果你的本机已经装了多个 Python 版本建议为 Agent 项目单独创建虚拟环境避免包依赖互相污染。python -m venv agent_env source agent_env/bin/activate # Windows 下执行 agent_env\Scripts\activate4. 从古法编程到 Agent 开发以日志智能分析为例这一节我们用最直接的方式演示从“古法编程”到“Agent 开发”的编码思路变化。场景选一个很常见的分析 Elasticsearch 日志。4.1 古法编程的做法传统做法是写死一条流程接收参数拼一个固定的 ES 查询 DSL调用requests请求_search接口解析返回结果。代码如下def query_es(index: str, level: str ERROR): dsl { query: { bool: { filter: [ {term: {level: level}} ] } }, size: 10 } response requests.post( fhttp://localhost:9200/{index}/_search, jsondsl, timeout30 ) return response.json()这个函数的问题很明显你预设了用户只查levelERROR只返回固定字段。如果用户问“昨天每个服务的错误数量分布是怎样的”“哪些错误在最近 5 分钟出现次数突然变多”你都要手写新的函数和新的 DSL。规则越多代码越厚。4.2 Agent 开发的做法换成 Agent 思路后你依然要写工具函数但你写的是“基础工具”def es_search(index: str, dsl: dict, limit: int 20): 向 Elasticsearch 发起查询dsl 为完整查询体返回 JSON。 if isinstance(dsl, str): dsl json.loads(dsl) dsl[size] limit url fhttp://localhost:9200/{index}/_search resp requests.post(url, jsondsl, timeout30) resp.raise_for_status() return resp.json()然后你把工具函数注册给 Agent并告诉模型“你有一个可以查询 ES 的工具工具的入参是什么返回什么”。tools [ { type: function, function: { name: es_search, description: 查询 Elasticsearch 中的日志索引可以传入自定义 DSL 查询体。, parameters: { type: object, properties: { index: {type: string, description: 日志索引名称}, dsl: {type: object, description: 完整 Elasticsearch DSL 查询体} }, required: [index, dsl] } } } ]这段代码的核心变化是你不再手写“分析逻辑”而是给模型提供了一张“工具说明书”。模型会读用户问题自己决定要不要调用es_search、传什么参数、怎么解读返回结果。4.3 Agent 主循环下面是用 OpenAI SDK 风格写的一个极简 Agent 循环import json import requests from openai import OpenAI client OpenAI(api_keyyour-api-key, base_urlhttps://api.deepseek.com/v1) tools [ # 工具定义同上 ] def call_llm(messages): response client.chat.completions.create( modeldeepseek-chat, messagesmessages, toolstools, tool_choiceauto, ) return response.choices[0].message def run_agent(user_input: str, index: str app-logs): messages [ {role: system, content: 你是一个日志分析助手。用户会提出日志查询需求你可以调用 es_search 工具查询结果需要结合用户问题给出结论。}, {role: user, content: user_input} ] for step in range(5): message call_llm(messages) if not message.tool_calls: print(最终答案, message.content) return message.content messages.append(message) for tool_call in message.tool_calls: if tool_call.function.name es_search: args json.loads(tool_call.function.arguments) # 实际项目中这里要加上权限校验、参数白名单校验 result es_search(index, args[dsl]) messages.append({ role: tool, tool_call_id: tool_call.id, content: json.dumps(result, ensure_asciiFalse)[:4000] }) print(达到最大轮次未完成分析) return None这个循环本质上就是 Agent 的最小实现模型决定调用工具 - 程序执行工具 - 把结果返回给模型 - 模型继续推理。所谓 Agent其实就是在这个循环上叠加更好的规划、记忆、工具管理策略。需要注意上面的base_url和model是我给的通用示例实际项目需要按你使用的服务商调整。使用 OpenAI 官方服务时不需要传base_url使用 DeepSeek、通义千问等兼容服务时需要改成对应的地址和模型名。4.4 判断 Agent 是否“跑起来”的标准完成上面代码后可以试着问这几个问题“今天错误日志里出现次数最多的异常类型是什么”“最近 10 分钟服务 A 的错误数量有没有明显上涨”“帮我统计一下 status 字段为 500 的日志数量。”如果 Agent 能自动生成 DSL、查询 ES 并最终输出一份小结就说明它已经具备基本的“规划 工具调用”能力。如果模型直接返回答案没有调用工具需要检查工具定义里的描述和参数是否写清楚或者把tool_choice临时改成{type: function, function: {name: es_search}}引导一次调用。5. 把 Agent 变成服务API 接口与批量任务单机跑通循环只是第一步。真实业务中你通常要把 Agent 包成一个服务让其他系统调用或者用批量任务处理一批日志文件。5.1 用 FastAPI 封装服务from fastapi import FastAPI from pydantic import BaseModel app FastAPI(titleLog Agent Service) class QueryRequest(BaseModel): question: str index: str app-logs app.post(/agent/analyze) def analyze(req: QueryRequest): result run_agent(req.question, req.index) return {question: req.question, answer: result}启动服务uvicorn main:app --host 0.0.0.0 --port 8000然后你用 curl 测试curl -X POST http://127.0.0.1:8000/agent/analyze \ -H Content-Type: application/json \ -d {question: 统计最近一小时的错误日志数量, index: app-logs}如果你想把 Agent 接入现有系统只需要调整请求参数格式加一层鉴权校验其他逻辑不用变。5.2 批量任务多日志文件场景批量任务的难点在于单个 Agent 调用有延迟和 Token 成本不能让一个请求卡住整个队列。推荐做法是引入异步队列和失败重试。import concurrent.futures def batch_analyze(questions: list[str], index: str): results [] with concurrent.futures.ThreadPoolExecutor(max_workers3) as executor: future_map { executor.submit(run_agent, q, index): q for q in questions } for future in concurrent.futures.as_completed(future_map): q future_map[future] try: answer future.result(timeout60) results.append({question: q, answer: answer}) except Exception as e: results.append({question: q, error: str(e)}) return results这里有几个工程化要点max_workers不要调太大避免同时打爆 API 限流。每个任务加超时时间。失败任务要记录原因不要静默吞掉。批量任务建议把输入、输出、中间结果分别落盘方便回溯。实际生产环境更稳妥的方案是把任务写入 Redis 队列由 Worker 进程消费再把结果写回数据库。这里给的是本地可跑的简化版足够演示思路。6. 资源占用与性能观察6.1 Token 消耗是最大成本Agent 开发最容易忽视的成本是 Token。一次工具调用通常意味着多轮对话每一轮都要把历史消息重新发送给模型Token 消耗会成倍增长。以一个简单的日志分析任务为例假设用户提问 100 Token工具定义 500 Token第一次模型响应 50 Token工具结果 500 Token第二次模型响应 200 Token。一次完整调用就可能消耗上千 Token。如果任务复杂连续调用 3 到 5 次工具消耗会到几千 Token。建议在开发阶段就记录每次请求的usage信息def call_llm_with_usage(messages, tools): response client.chat.completions.create( modeldeepseek-chat, messagesmessages, toolstools, tool_choiceauto, ) usage response.usage print(fprompt_tokens{usage.prompt_tokens}, completion_tokens{usage.completion_tokens}) return response.choices[0].message这样你可以定位是哪一步消耗了过多 Token从而优化提示词或工具返回内容。6.2 工具调用延迟与普通 API 调用相比Agent 的延迟是整个链路叠加的产物。模型推理时间 工具执行时间 多轮往返时间。模型推理通常要 1 到 5 秒取决于模型和输入长度工具执行如果涉及 ES、数据库或外部 HTTP 请求又要 0.1 到 1 秒。多轮下来一个任务几十秒是常态。如果你的业务对响应时间有要求可以用异步接口 轮询而不是让用户同步等待。6.3 如何降低资源消耗控制工具返回内容长度ES 查询结果不用全量返回截取关键字段比如只返回前 20 条、只返回命中总数和 top 异常类型。精简工具描述工具定义会随每次请求发送给模型描述太长会浪费 Token。减少历史消息冗余一轮工具调用结束后把不重要的中间结果丢弃只保留必要的摘要。使用流式输出影响体感延迟但不减少 Token。设置最大轮次和超时防止模型陷入无限循环。6.4 显存与 GPU 观察如果你使用的是云端 API本机不需要关注显存。如果你本地部署模型建议启动推理服务后观察显存占用nvidia-smi -l 1或者使用更细粒度的监控nvidia-smi --query-gpumemory.used,memory.total,utilization.gpu --formatcsv -l 1关注两个时间段模型加载完成但无请求时这是基线占用推理过程中这是峰值占用。如果显存不足通常要降低模型量化等级、减小上下文长度、或换更小的模型。具体占用数字因模型而异这里不做无依据的猜测。7. 常见问题与排查方法问题现象可能原因排查方式解决方案Agent 不调用工具工具定义不清晰或者模型觉得直接回答就行查看 API 返回是否包含 tool_calls 字段优化工具描述或临时强制指定 tool_choice工具调用参数解析失败模型生成的 JSON 不合法或参数类型不匹配打印完整 arguments 原文用json.loads包 try/catch失败时把错误信息返回给模型重试上下文超长多轮工具调用累积了过多历史消息查看 usage.prompt_tokens 是否接近模型上限对历史消息做裁剪或摘要请求超时工具执行太慢或模型推理太长检查单次请求耗时加长超时时间或改为异步任务返回结果幻觉严重模型没有获取到真实数据或工具结果被截断检查工具调用次数和返回内容强制 Agent 必须调用工具后才能下结论并给工具结果加来源标识并发请求 429API 限流查看响应头或错误信息增加重试退避降低并发数批量任务卡死某个任务阻塞或线程池被打满打印每个任务的执行日志增加超时机制和任务级失败标记本地模型显存不足模型量级过大或上下文过长观察 nvidia-smi 输出换小模型、降低上下文、开量化ES 查询权限不足工具调用发出后收到 403检查连接账号权限在工具函数层面做权限控制返回明确错误信息敏感信息泄露工具返回内容包含用户敏感字段审查工具返回内容脱敏后返回或按字段做白名单排查 Agent 问题有一个通用思路不要直接猜模型“想什么”先看请求日志和响应日志。把每一轮的 prompt、tool_calls、tool 结果都打印出来问题基本能定位到是“模型没理解”“工具没执行”还是“结果没传回”。8. 最佳实践与使用建议8.1 先小范围验证再上批量第一次跑 Agent不要一上来就处理几千条日志。先拿 10 个样本问题跑一遍人工检查输出质量确认工具调用路径稳定后再扩大到全量。Agent 不是确定性系统输出结果必须抽检。8.2 提示词要写清“边界”给 Agent 的 system prompt 至少应该包含角色定位、可调用的工具、必须遵守的步骤、禁止做的事情、输出格式要求。比如日志分析 Agent 必须要求“所有结论必须基于工具返回数据禁止猜测”。8.3 工具函数要加统一校验层所有工具函数不能裸奔建议包一层 wrapper统一做权限校验、参数白名单、返回内容截断、敏感字段脱敏。def safe_es_search(index, dsl): if not user_has_permission(es_search, index): return {error: 无权限访问该索引} # 参数白名单校验 result es_search(index, dsl) # 脱敏处理 redact_sensitive_fields(result) # 截断长度 return json.dumps(result, ensure_asciiFalse)[:4000]8.4 日志与审计Agent 的每一步操作都要留痕。建议记录用户输入模型生成的 tool_calls工具函数入参与出参每次调用的 Token 消耗最终输出运行耗时这不仅是排查问题的基础也是合规审计的一部分。8.5 成本控制给 Agent 任务设置预算上限。可以在代码层面对单次任务的 Token 消耗做累计统计超过阈值直接终止本轮并返回“任务过于复杂请简化问题”。9. 总结与下一步从古法编程到 AI Agent 开发最关键的变化不是“写不写代码”而是编程的抽象层次变了从“实现具体逻辑”变成“描述能力边界 定义工具接口 约束模型行为”。代码仍然要写但写的重点变成了工具函数、提示词策略、数据流控制和权限管理。这篇文章演示了一条从零起步的 Agent 开发路径先定义工具再实现一个最小 Agent 循环然后封装成 API 服务最后扩展到批量任务。你可以拿这个模板套到很多场景里——日志分析、数据查询、文档处理、代码分析只需要替换工具函数和提示词。最先值得验证的功能是 Agent 能否在真实数据上稳定完成“理解问题 - 调用工具 - 返回结论”这个闭环。如果这一步能跑通后续的优化方向就很清晰了加入长期记忆、多 Agent 协作、缓存工具结果、接入更多外部系统。最容易踩的坑是低估 Token 成本和工具调用的不确定性。建议所有想在业务里落地 Agent 的团队先拿一个低频、非关键的内部工具场景试水把日志和成本模型跑清楚再考虑推广到核心链路。这篇内容建议收藏备用。后续你可以接着研究 Function Calling 的原理、不同框架的选型对比以及如何把 Agent 接到自己的内部系统里形成真正可用的 AI 应用。