尧图建网站 尧图建网站 YAOTU WEB BUILD 免费咨询
ARTICLE DETAIL

资讯详情

深耕网站建设与建站编程的一线实战洞察。

如何控制 OpenSRE 的 Token 成本:/cost 每会话成本追踪实用指南

如何控制 OpenSRE 的 Token 成本:/cost 每会话成本追踪实用指南 如何控制 OpenSRE 的 Token 成本/cost 每会话成本追踪实用指南【免费下载链接】opensreBuild your own AI SRE agents. The open source toolkit for the AI era.项目地址: https://gitcode.com/GitHub_Trending/op/opensreOpenSRE是开源的 AI SRE Agent 工具包让告警自动调查成为可能。但每次 LLM 调用都会消耗 token 产生费用——内置的/cost命令可以追踪当前会话的 token 用量与 LLM 调用次数是控制 token 成本的第一道防线。OpenSRE /cost 每会话 token 成本追踪面板为什么 OpenSRE 需要 Token 成本管理OpenSRE 的每一次告警调查都是一次ReAct 循环Agent 思考 → 调用工具 → 读取结果 → 继续推理多轮 LLM 调用叠加下来token 消耗会快速累积。作为新手你可能会遇到这类困惑 这次调查到底花了多少 token 哪些工具返回的大段日志撑大了输入 token 数字是真实计量还是估算/cost命令就是为这些场景设计的。快速上手三步查看当前会话成本启动交互式 Shell进入 OpenSRE 会话执行/cost即可看到Session cost面板随时重复执行面板按当前会话累计值实时刷新。面板由 diagnostics_cmds.py 中的_cmd_cost渲染包含三类核心指标字段含义history entries当前会话的交互轮数llm calls已记录的 LLM 调用次数call_countinput / output tokens输入与输出 token 累计用量OpenSRE token 成本概览图表读懂 /cost 输出真实计量与估算值很多新手会注意到面板标题有时显示Session cost (includes estimates)——这是关键细节当 LLM 提供方返回了精确用量时token 计入*_measured实测桶当提供方没有返回用量时OpenSRE 会按本地方式估算并计入*_estimated桶只要存在估算值标题就会加上提示避免你误以为全是精确账单。这套记账逻辑集中在core/agent_harness/accounting/token_usage.py的TokenUsage类中每次 LLM 调用通过record()累加 input/output 计数同时维护实测/估算分桶。官方命令参考见 interactive-shell-commands.mdx。 小提示/cost显示为零时说明本会话还没有 LLM 轮次——先聊一轮再查即可。控制 OpenSRE Token 成本的 4 个实用技巧OpenSRE 按工具维度的 token 成本分布按会话记账定期清零每次调查结束后执行/new开启新会话TokenUsage.reset()会清空累计值让每段工作的成本独立可归因而不是混在一个大数字里。用/context配合/cost找大头/context展示会话累积的基础设施上下文键值。如果某些键持续膨胀如反复拉取的日志说明输入 token 被上下文撑大可考虑精简调查范围。调低推理强度reasoning effort/status面板会显示当前 reasoning effort。低推理强度偏向速度与更低的推理成本见config/llm_reasoning_effort.py日常轻量排查完全够用。关注 llm calls 增长率调用次数 × 平均每次输入 token ≈ 总成本。若某次调查的调用数异常偏高多半是工具返回内容过多导致 Agent 反复循环检查工具输出精简度往往比换更便宜的模型更有效。常见问题FAQQ1/cost和/status有什么区别/status偏运行状态交互数、trust mode、provider 等/cost专注 token 用量与 LLM 调用次数二者配合使用最方便。Q2估算值会影响计费判断吗不影响趋势判断。OpenSRE 明确标注估算来源标题带 includes estimates适合做会话级成本对比精确账单请以 LLM 提供方后台为准。Q3在哪里能看懂 /cost 的完整用法官方文档 interactive-shell-commands.mdx 有/cost的完整输出示例与故障排查表如显示为零的处理方法。小结掌握/cost之后你的 OpenSRE 使用路径就变成了先查用量 → 定位膨胀点 → 调整策略 → 新会话清零再验证。配合/new、/context、/status三个命令普通用户也能像看账单一样管理自己的 AI SRE 成本让开源 AI Agent 既好用又可控烧钱。【免费下载链接】opensreBuild your own AI SRE agents. The open source toolkit for the AI era.项目地址: https://gitcode.com/GitHub_Trending/op/opensre创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表