很多团队评估企业 Agent 成本时第一反应是看模型价格。比较哪个模型输入便宜哪个模型输出便宜哪个模型性价比高。比价自然重要但论文「The Harness Effect: How Orchestration Design Sets the Token Economics of Enterprise Agentic AI」提出了一个观点企业级 Agent 决定一项任务最终花多少 Token 的一般是模型外面的编排层。论文把这个编排层叫作 Harness。它负责把一次用户请求组织成一连串可执行的步骤比如怎么拼接上下文、Agent 什么时候调用子 Agent 等等。相对应的本篇论文的核心实验将保持 22 个企业 Agent 任务、6 个模型、评测方式和价格表不变通过只替换编排层Harness来比较传统生产 Agent loop 和 Agent Harness 的差异。下面我们来看看如何把 Agent 成本从“模型单价问题”拆解成“系统设计问题”。Agent 的成本构成一般来说Agent 很少只用一次模型调用就完成任务。一个企业级任务往往要经过多轮 Prompt 交互、工具调用、检索返回、工具输出处理、中间状态更新和历史记录回放。每执行一次模型调用系统都要重新组织上下文这就会产生新的输入 Token 和输出 Token 消耗。论文把一次 Agent 任务的成本拆成多轮模型调用的总和。每一轮的模型调用输入 Token 成本主要来自系统提示词、历史记录、工具 schema、检索内容和用户请求等部分。这意味着Token 成本不只受模型单价影响也受到 Harness 的上下文组织方式影响是完整回放历史记录还是压缩成 checkpoint工具 schema 是每轮全部注入还是按任务需求动态收敛检索内容是写入大段上下文还是只保留关键证据和引用失败重试是继续消耗调用次数还是设置重试边界和熔断机制等待外部事件响应时是反复调用模型确认状态还是把任务挂起等事件返回后再恢复。这些选择最终都会影响每一轮模型调用的上下文长度和 Token 消耗。图 1Token 消耗主要来源红线代表 naive replay蓝线代表 harness-managed context中间的阴影区域为那些被重复消耗、但没有有效转化为任务质量的额外 Token。上图显示如果 Agent 每一轮模型调用都完整回放历史记录输入 Token 会随着执行轮次快速膨胀整体接近平方级增长。如果由 Harness 管理上下文把历史记录进行压缩、分层或外置Token 增长就可以被压到近似线性增长。核心实验只换 Harness模型不变这篇论文的实验设计不只是单纯在比较“哪个模型更便宜”它还做了一个配对替换实验同样的 22 个任务同样的 6 个基础模型同样的评测方式和价格表每组条件都跑两遍。第一遍使用一套固定版本的传统生产 Agent loop作为基线第二遍换成 Writer Agent Harness。这样一来实验主要观察的变量就集中在编排层。本次测试模型包括 Claude Sonnet 4.6、Gemini 3.1、Gemini Flash 3.5、Qwen 3.6、GLM 5.1 和 Palmyra X6覆盖前沿模型、快模型、开源权重候选模型和 Writer 自家的企业模型。图 2 和图 3整体效率结果上图是原论文的图 3 和表 2 的数据作者特别指出不能过度解读模型的质量从 0.78 到 0.81。毕竟样本量只有 22 个任务n 22质量分数的变化比较适合当作方向性参考。相比之下成本、Token 消耗和延迟的下降幅度更明显重要的是在不同任务和不同模型上都呈现了一致趋势。注意这件事Harness 没有换模型也没有换任务却把每个任务的 Token 消耗从 14.2k 降到 8.8k。Harness 如何省 Token论文进一步拆解了 Writer Agent Harness 为什么能减少 Token 消耗。Prompt 结构表面上看它优化的是 Prompt、上下文和工具调用。但从工程实现来看它在优化同一件事就是让 Agent loop 里的每一轮模型调用更克制、更可控。图 4两层 prompt将 prompt 明确分成 byte-stable prefix 和 volatile tail其中最典型的一点是 Writer Agent Harness 对 Prompt 结构做了拆分。它把 Prompt 拆成固定前缀和动态后缀。固定前缀里放工具 schema、固定的系统提示词和可持久保存的任务记录动态后缀放时间、文件状态、计划、提醒、语音设置等每轮都会变化的信息。通过这样的设计就能让前面的固定部分保持 byte-stable从而更容易命中 prompt cache。论文给了一个测量例子7,886 个 prompt token 中有 7,876 个来自 cache reads缓存命中比例达到 99.9%。管理历史记录除了 Prompt 结构Writer 对 Harness 设计管理历史记录机制。普通 Agent loop 容易把完整历史记录一轮轮地塞进上下文等到窗口快满时再粗暴截断。这样做会让 Token 会反复消耗关键决策和用户约束也会在截断时被丢失。论文里的 Harness 会用持久化执行记录和检查点摘要来保存旧状态同时保留最近几轮消息的原文。这样一来历史记录就不再只是不断塞进上下文的流水账而是会被整理成可压缩、可恢复、可继续执行的任务状态。清理中间结果对于工具输出、网页内容和文件读取结果Writer Agent Harness 不会全量写入模型上下文而是将大块内容放到文件系统或外部状态中只在上下文里保留摘要、预览、引用或指针。此外子 Agent 也承担了隔离“上下文”的作用。它会独立完成搜索、阅读和整理最后只把受限长度的结果摘要返回给主 Agent避免主 Agent 为完整的探索过程继续支付昂贵的上下文成本。很多企业流程需要等待审批、外部系统响应或工具返回。如果 Agent 通过反复调用模型来确认状态就会产生空转成本。论文中 Harness 会把等待设计成可持久化的暂停状态同时通过重试边界、熔断机制和循环上限避免 Agent 在无效路径上持续消耗调用次数。优化收益收敛于模型能力论文有一个很重要的工程结论通过优化 Harness 带来的成本下降是普遍存在的但质量收益依赖模型能力。图 5不同模型下的成本和延迟变化。所有模型的成本都下降范围在 33% 到 61% 之间。论文认为效率收益主要来自编排层而不是某个模型自身特性。但质量侧就没这么平均。图 6Harness 对不同模型能力得分的影响在 48 个 capability × model 单元中有 30 个提升、11 个持平和 7 个回退。7 个回退都出现在 Flash 3.5、Qwen 3.6 和 GLM 5.1 这 3 个较小模型上并集中在 MCP、Playbooks、Presentations 这几类任务中。论文用 harness leverage 来描述这种现象不同模型能利用 Harness 的编排能力并不一样。图 7harness leverage上图进一步给出了一个相关性观察。如果模型的基线能力越强使用 Harness 后的平均质量增益越高。上图 Palmyra X6 的平均增益是 0.079Claude Sonnet 4.6 是 0.073而 Qwen 3.6 是 -0.031。不过论文指出这个相关性是基于 6 个模型点样本量本身很小因此比较适合作为提示性结果。子 Agent 的能力门槛图 8Sub-agent delegation 得分论文单独列出了 Sub-agent delegation 的得分。子 Agent 是 Writer Agent Harness 组引入的新能力没有对应的基线组。它要求模型能够生成一个或多个有明确范围的子 Agent并把子任务结果合并回来。从结果看Palmyra X6 和 Sonnet 4.6 的可靠性最高分别为 0.86 和 0.85Gemini 3.1 为 0.70Flash 3.5、Qwen 3.6 和 GLM 5.1 的得分则更低。论文在讨论部分提到Harness 的能力要根据模型能力做分层处理。对于能力较弱的模型可以缩小工具目录、限制委派范围或者关闭子 Agent 这类复杂的编排能力。这一点和前面的 harness leverage 观察也一致用 Harness 能降低成本但复杂编排能否转化为质量收益取决于模型本身能力。从单次任务到企业总账论文还提醒Agent 上线后评估不能只看质量分数也要看完整跑一次任务要消耗了多少 Token。论文建议把 CPMCompletions per Million Tokens每百万 Token 能完成的任务量纳入发布门禁。实验中CPM 指标从 54.9 提升到 92.0说明同样消耗一百万 TokenHarness 版本能完成更多任务。这也进一步要求企业要建立任务级 Token 账本记录每个任务的总 Token、输入 / 输出比例、prompt cache 命中率、工具 schema 大小、检索内容长度、历史压缩效果、失败重试消耗以及子 Agent 的 Token 是否被单独隔离。由于 Harness 决定了上下文如何组织、工具如何暴露、失败如何重试。因此论文强调这类 per-task token accounting 应该放在 Harness 层。图 9大规模部署下的 Harness 节省效果论文做了一个测算如果一个组织每月运行 100 万个 Agent 任务baseline 按每任务 0.21 美元计算每月成本大概 21 万美元Harness 按每任务 0.12 美元计算每月约 12 万美元。这个差额约每个月是 9 万美元一年约 108 万美元。小结这篇论文主要关注编排层怎么组织一次任务。模型价格决定每个 Token 的单价Harness 决定一次任务会消耗多少 Token。上下文怎么拼、工具怎么暴露、历史怎么压缩、失败怎么重试都会影响最终成本。所以企业 Agent 的优化不只是在模型之间做选择也要回到 Agent loop 本身检查哪些 Token 花得必要哪些 Token 来自重复回放和无效重试。这正是 Harness 工程要解决的问题。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】