核心论点单回合内的执行模型reactor 循环、回合内工具并发、token / 上下文预算、并发上限与排队决定了延迟、成本与稳定性的上限它是后续多工具并发、多 Agent 协调、跨节点治理等分布式话题的原子单元前提。视角声明本系列主线是跨进程、跨节点的分布式问题——服务发现、分布式锁、多 Agent 一致性、服务治理。本文的视角不是单节点的隔离运行而是单回合内部只盯一个会话、一个回合一个请求从进来到给出终态回复内部的执行排布。后续所有分布式话题都建立在一个隐式原子单元上「一个 Agent 回合」内部到底是什么结构。谈多工具「部分成功」、谈会话「跨节点放置」、谈多 Agent「并发协调」前提是先对齐这个原子单元——否则「回合」「并发」「终止」这些词各说各话。本文就给这个原子单元定边界。需要澄清一点本节点的回合并不孤立——它会伸手去够分布式世界。比如重状态流程用 Redis 分布式锁去重、调外部系统 API、走消息队列投递。但这些是回合在循环里调用的外部依赖。本文只定义「回合内部怎么排」伸出去的那部分交给对应篇。它只回答四个问题一个回合怎么循环、回合内工具怎么并发、每回合 token 怎么封顶、单进程怎么承住多会话。它不回答分布式协调、多 Agent 编排、跨节点放置——那些交给系列其他篇。下面先把循环这个容器画清楚。核心概念一个回合的 reactor 循环单 Agent 回合本质是reactor响应式循环计划plan→ 行动act→ 观察observe→ 再计划直到满足终止条件。下图的循环结构就是单节点调度要守住的骨架。简单检索多步任务外部系统争议场景否是收到用户请求意图识别与参数抽取路由判断检索增强直接作答进入 ReAct 循环远程意图处理纠纷协调流程工具精选调用工具 / 查知识观察结果满足终止条件?产出终态回复循环里每个节点都要落到具体机制意图识别决定走哪条分支ReAct 循环内部用迭代上限和图执行的递归上限双重兜底防止死循环终止条件通常是模型不再请求工具或命中人在回路等待。循环是调度的容器下面三节是装进这个容器的三个约束。回合内工具调用的并发与隔离进入循环后单轮内常常要取多个事实订单、物流、余额、政策。两个设计点决定了这部分稳不稳。第一工具精选先于调用。在把工具交给模型前先用意图规则过滤 → 语义重排 → 本地小模型确认三层流水线把候选从全量缩到小范围内。这既是准确率问题也是 token 预算问题塞给模型的工具描述越少每轮上下文越省。第二并行取数但要隔离失败域。多个只读事实可以并行拉取单个超时不该拖垮整轮。这正是《工具调用部分成功》篇的落地基础——单工具异常降级或重试不影响其他事实返回但涉及金钱的裁决走 fail-closed自动裁决一旦置信度不足事实不足、证据矛盾、金额超阈、情绪极端任一即升级人工绝不用降级事实做退款决策。非金钱金钱裁决本轮需要的事实并行拉取多个只读工具事实 A 成功事实 B 超时事实 C 成功重试 / 降级 / 升级汇总进下一轮推理置信度不足即升级人工且退款动作须人工确认才执行并发模型定下后下一个约束自然浮现并行和循环都会放大 token 消耗必须有预算封顶。token / 上下文预算每回合的硬上限reactor 循环每转一圈token 账单就叠加一次用户输入 系统提示 工具描述 本轮工具结果 历史消息。若不设预算长用户输入或多次工具返回会让单回合成本失控。所以单回合要设两道闸第一道是进循环前对用户输入的 token 截断具体估算与截断策略见《上下文压缩与窗口管理》篇第二道是工具返回结果计入下一轮上下文时也要计入这笔账。两道闸共同把单回合成本与延迟锁在可预测区间内——预算管的是单次多大而跨多回合的窗口压缩与长期上下文管理是另一层问题交由《上下文压缩与窗口管理》篇。预算只解决单次多大解决不了同时跑多少于是要有并发上限。并发上限与排队单进程如何承住多会话单节点服务靠异步事件循环同时伺候大量会话但并发不是无限的。两个层面的控制轻量流程走事件循环自然并发靠服务框架的 worker 数与异步调度兜底。重状态流程如纠纷协调必须防重复触发用户刷新、网关重试、消息队列至少一次投递都可能让同一任务并发进来。本项目用会话 订单维度的分布式锁做去重——锁占用期间重复请求直接返回处理中避免重复跑多轮 LLM 调用、甚至重复产生副作用。进程内的并发上限与排队、背压策略和服务级限流是一体两面更系统的限流与治理手段见《成本治理与限流》《LLM服务治理》两篇。单节点调度只负责把一个进程内怎么不挤爆讲清楚跨进程的横向扩展交给下面一节。跨节点延伸会话放在哪台机器单节点视角在此收口。当会话要跨进程、跨机器时问题变成会话落在哪个节点放置、后续请求是否回到同一节点亲和、节点挂了如何转移故障转移。这些是路由与治理的话题不在本文范围内——会话放置与模型路由见《模型路由策略》篇跨节点稳定性与治理见《LLM服务治理》篇。核心要点调度决定上限循环结构、终止条件、并发、预算四件事直接决定延迟、成本与稳定性而非模型本身。循环要设双上限迭代轮次上限 图执行递归上限防止 reactor 死循环。工具精选是一石二鸟缩候选集既提准确率也省每轮 token。并行取数须隔离失败域单工具异常不阻断整轮金钱裁决走 fail-closed——置信度不足即升级且退款动作须人工确认才执行。token 预算是硬闸输入截断 工具结果计入共同封顶重状态流程用分布式锁防并发重复触发。