一、论文基础信息论文arXiv编号arXiv:2607.06503v1 [cs.AI]二、摘要大语言模型LLM智能体在求解多步骤任务时常会陷入注定失败的交互轨迹且会持续消耗大量推理算力直到失败完全暴露。本文证明仅依靠智能体内部表征在第一轮交互即可提前预判最终任务失败而仅观测智能体外部行为的打分器首轮预测效果仅略优于随机猜测。本文将该预测信号落地为召回控制探针级联终止框架每轮交互配置一个经分布无关校准的终止门控联合优化每轮召回预算保证成功交互样本以用户指定全局召回率完整跑完流程。核心实验结果基于TextCraft环境测试Qwen-2.5-7B、Llama-3.2-3B两款智能体全局召回目标90%时Qwen节省47.1%±10.3%推理算力Llama节省37.2%±8.8%算力节省量是最优单门控策略的1.6~1.7倍仅使用行为特征的同级级联框架算力节省量仅为本方案一半在探针特征中叠加行为特征无收益证明模型隐藏状态已完整编码行为信息量化高召回约束下的样本复杂度边界给出数据集可支撑/无法支撑的召回指标判定依据。三、引言3.1 背景痛点LLM智能体广泛用于网页导航、工具调用、具身仿真等长时序任务单次交互轮次可达数十轮生成海量Token。大量算力被无效消耗智能体误解任务、进入不可恢复状态、无限循环时交互流程会持续运行至超时或输出错误答案全程浪费算力。若能提前识别注定失败的交互并终止释放算力可用于重试任务、扩充采样轨迹或降低服务成本。3.2 现有方案三大核心障碍早期预测信号缺失交互前两轮行为证据极少仅靠外部行为难以区分失败/成功样本行为打分器在第3~4轮才具备判别能力此时已有超1/3交互提前结束大量算力已浪费。而模型内部激活探针恰好相反首轮判别能力已超越行为打分器峰值第2轮达到最优。终止策略缺乏可控保障误终止成功交互会直接损失任务收益线上部署前必须量化误终止比例不能事后观测统计。多轮门控召回风险累积每一轮独立门控的召回保证无法叠加为全局交互级召回保证成功样本需要通过所有轮次门控多轮叠加后误终止概率持续放大。3.3 本文核心方案召回控制级联终止框架在交互前R_g轮分别设置独立门控每轮使用线性探针读取模型隐藏状态若失败预测得分超过校准阈值则终止交互。阈值基于Clopper–Pearson二项分布校准保证单轮成功样本留存率下限联合搜索多轮召回预算向量在满足全局召回下限约束下最大化算力节省双模式约束带安全余量的经验模式默认、可形式化证明的证书模式分布无关先验保障。3.4 核心价值级联框架算力收益显著90%全局召回目标下算力节省是单门控策略1.6~2倍仅靠行为特征的框架收益减半同时给出数据集支撑高召回目标的样本量数学边界提前告知开发者现有数据能否满足业务召回指标。3.5 本文三大贡献跨两款智能体验证模型内部激活可在交互首轮预判失败纯行为打分器仅在3~4轮具备判别能力此时大量算力已消耗首个面向LLM智能体的多轮序决策终止策略通过分布无关门控联合优化召回预算提供可选择的形式化召回证书实验证明级联框架最高节省47.1%推理算力同时量化高召回证书所需的训练样本复杂度。四、方法实现4.1 问题定义交互Episode智能体与环境交互序列(s₁,a₁,s₂,a₂,...)最终二元结果y∈{0,1}1任务成功0失败单交互最大轮次R_full20代价定义c_r前r轮累计推理成本C完整交互总算力成本终止门控配置仅在前R_g6轮设置门控第r轮门控打分f_r(x) τ_r则终止交互节省剩余算力C-c_r核心优化目标最大化期望算力节省约束全局成功召回率所有成功样本完整通过全部门控的占比≥用户设定阈值ρ⋆。关键结论单轮独立召回约束无法推导全局召回下限多轮误终止概率存在复杂累积效应。4.2 每轮失败预测打分器Probe4.2.1 特征提取方式提取第r轮智能体动作最后一个token的残差流隐藏状态作为特征向量x∈R^dLlama-3.2-3B共28层固定提取第14层隐藏状态Qwen-2.5-7B共28层固定提取第20层隐藏状态层选择依据独立预实验逐层扫描AUC选取预测失败AUC最高层。4.2.2 探针模型标准化特征输入逻辑回归L2正则正则系数C1训练目标基于当前轮存活样本预测最终交互失败1-y。4.2.3 两类对比基线打分器表层行为打分器Surface Scorer仅使用API可获取的外部行为特征无模型内部激活访问权限当前轮动作token平均对数概率、历史轮均值、生成token总数、上下文前缀长度、包含错误关键词error/invalid/fail等的轮次数量堆叠特征打分器Stacking Scorer探针隐藏特征 全部表层行为特征拼接输入验证行为信息是否能补充内部表征。4.3 单轮召回校准门控Clopper–Pearson给定单轮召回预算t_r设第r轮校准集中存活成功样本打分集合S_r样本总量n_r阈值τ_r定义满足二项分布Clopper–Pearson下界置信度≥t_r的最小打分阈值。置信下界公式p‾(τ)Beta−1(α; k(τ), nr−k(τ)1) \underline{p}(\tau) \mathrm{Beta}^{-1}\big(\alpha;\ k(\tau),\ n_r - k(\tau)1\big)p​(τ)Beta−1(α;k(τ),nr​−k(τ)1)k(τ)打分≤阈值τ的成功样本数量α0.05单轮置信度95%若校准样本量不足以支撑t_r该轮门控失效不终止任何交互等价t_r1。对比方案分位数共形门控附录B仅平均控制召回小样本下易低于召回目标本文主线采用保守且稳定的Clopper–Pearson门控。4.4 全局约束下召回预算联合搜索数据划分规则任务分组分层划分避免任务泄露20%任务校准集用于计算各轮门控阈值20%任务验证集用于搜索最优预算向量60%任务测试集最终效果评估探针采用任务分组交叉拟合样本训练时不包含自身任务数据。预算网格搜索空间每轮t_r ∈ {0.85,0.90,0.95,0.98,0.99,1.0}总候选向量6^646656组两种可行约束规则满足其一即可纳入候选集F余量模式默认验证集全局召回ρ̂_val ≥ ρ⋆ δ安全余量δ0.02抵消多候选搜索带来的选择乐观偏差无形式化数学证明靠实验验证稳定性证书模式基于验证集成功样本量n_pos计算全局召回Clopper–Pearson下界≥ρ⋆分布无关、可先验证明但对样本量要求极高最优预算选择候选集F内选取验证算力节省最大的向量t⋆若无可行候选框架关闭终止功能不做任何提前截断对比基线分配策略单门控Single-gate全部召回预算仅分配至单一轮轮次与预算统一搜索均匀分配Uniform所有轮次t_r取值完全相同。4.5 召回证书样本复杂度边界无任何终止操作的基线策略全局召回下界为α_m^{1/n_pos}三准则公式α_m0.05实验数据集Llama验证集成功样本n_pos113Qwenn_pos115可证书化召回上限≈0.9740.98、0.99召回目标需要大幅扩充成功样本否则证书模式直接放弃终止。4.6 完整算法流程算法1 召回控制级联终止输入带标签交互数据集D、全局召回目标ρ⋆、预算网格T、约束规则余量δ/证书置信α_m输出多轮门控集合{(f_r, τ_r)}_r1^{R_g}任务分组交叉拟合训练每轮探针f_r计算所有交互样本打分按任务划分校准集、验证集、测试集遍历网格内所有候选预算向量t3.1 对每一轮r基于校准集计算满足单轮召回t_r的阈值τ_r(t)3.2 在验证集完整模拟级联终止记录验证全局召回ρ̂_val与算力节省比例筛选满足约束规则的候选向量集合F若F为空框架禁用终止直接输出空门控若F非空选取验证算力节省最大的t⋆作为最终部署预算在独立测试集完成最终效果评估。五、实验配置5.1 环境与智能体仿真环境TextCraftAgentGym套件文本合成环境智能体需要按多步骤配方合成目标物品任务结果二元成功/失败智能体模型Llama-3.2-3B任务成功率63.0%Qwen-2.5-7B任务成功率74.8%数据采集100个任务每个任务8条交互单模型800条交互样本采样温度T1.0交互限制最大20轮门控仅部署1~6轮算力节省指标被提前终止交互剩余未生成Token占全部Token的比例。5.2 统一实验协议探针每轮逻辑回归特征标准化L2正则C1固定提取层Llama14、Qwen20完整流水线任务划分、交叉拟合、门控校准、预算搜索、评估重复20次随机种子结果输出均值±标准差所有打分器、基线分配策略共享完全相同的数据划分与校准流程消除无关变量干扰。六、实验结果6.1 内部隐藏状态可提前预判失败Figure3纯行为打分器Surface首轮AUC接近随机3~4轮才达到判别峰值此时超1/3交互已结束大量算力浪费隐藏状态探针Probe首轮AUC已超越行为打分器峰值第2轮达到全局最高1~2轮恰好留存绝大多数未消耗算力价值极高后期轮次探针AUC下降原因样本筛选效应简单失败交互提前终止剩余样本均为长时序难例而非探针判别能力衰减第6轮两者AUC趋于一致。6.2 级联框架大幅超越单门控基线Table1、Figure4、Figure5召回可控性所有配置下测试集真实召回与目标偏差≤0.0277/8组实验真实召回高于设定目标保证业务无大规模误终止算力收益倍数级联框架算力节省是最优单门控1.6~2.3倍Llama在97%高召回目标下倍数可达2.3倍最优预算分配规律Llama 90%召回[0.95,0.85,0.85,1.0,1.0,1.0]仅在前3轮分配宽松召回预算充分利用早期预测信号4~6轮直接关闭门控均匀分配基线效果极差强制所有轮次同等严格早期高收益轮次约束过紧、后期低收益轮次浪费预算模型能力越强收益越高Qwen任务成功率更高、失败信号区分度更强同召回目标下算力节省全程高于Llama。6.3 消融实验内部激活是核心预测信号Figure6固定召回0.95仅行为特征级联算力节省仅为探针框架一半Qwen探针级联32.0%行为级联仅17.0%堆叠特征行为隐藏状态无增益算力节省与纯探针在误差范围内重合证明隐藏状态已完全编码所有行为特征级联结构对弱信号增益更大行为打分器单门控升级为级联后收益放大3.6倍探针仅放大1.9倍行为信号仅在3~4轮有效级联可把预算延后至有效轮次单门控无法利用后期信号。6.4 高召回证书的数据约束Figure7样本上限当前数据集仅支持≤0.974的可证书化召回0.98、0.99目标需要1.3倍、2.6倍现有成功样本业务价值框架可提前给出数据需求明确现有标注数据能否支撑业务高召回指标避免无效部署高召回余量模式收益极低98%召回目标下仅节省1.5%~5.5%算力几乎无落地价值。6.5 安全余量δ0.02有效性验证Figure8搜索带来的选择乐观偏差验证集召回平均高于测试集0.008~0.030与δ0.02匹配去除余量δ0后果95%召回目标下测试集召回跌破0.95Qwen 0.943±0.032、Llama 0.942±0.024以牺牲召回换取小幅算力提升带余量仅一组实验测试召回略低于目标且落在随机种子标准差范围内整体稳定可控。七、讨论与局限性7.1 两种约束模式取舍余量模式默认算力节省更高仅靠实验验证无严格数学证明适合对理论证明无强制要求、追求算力收益的业务证书模式具备分布无关先验保证但同等数据下仅支持较低召回目标算力节省大幅缩水适合合规、高可靠强约束场景未来优化方向引入多检验校正、E-value序列约束在有限样本下提升证书模式可支持的召回上限。7.2 超参数边界预算网格粒度本文采用粗粒度网格连续细粒度搜索可进一步提升算力节省仅会保守损失收益、不会破坏召回约束安全余量δ本实验δ0.02匹配样本量对应的召回标准差新领域可通过√(ρ⋆(1−ρ⋆)/n_pos)自适应计算合理余量。7.3 适用范围局限环境单一仅在TextCraft验证任务分布偏移时门控校准失效需少量新标注样本重新校准门控轮次限制仅前6轮部署门控6轮后存活样本极少预算搜索会自动关闭晚期门控拓展收益极低工程落地成本推理时需要读取模型中间隐藏层激活现有推理优化栈分页KV缓存、融合注意力内核暴露中间表征存在工程改造成本算力统计口径仅统计Token数量节省实际机器成本受批处理、Prefill/Decode不对称、闲置算力复用率影响。7.4 后续拓展方向本文仅量化算力节省未研究释放算力的复用策略可将终止释放算力用于同任务重试构建端到端测试时缩放框架量化任务整体成功率收益。八、结论跨两款主流LLM智能体验证模型内部隐藏激活可在交互首轮预判任务失败远早于仅依赖外部行为的监测器本文提出召回控制多轮级联门控框架联合优化多轮召回预算全局召回90%时最高节省47.1%推理算力收益是单门控策略1.6倍以上框架内置样本复杂度量化工具提前判定现有标注数据能否支撑业务所需的高召回保证方案可在不显著牺牲任务成功率的前提下大幅降低智能体LLM线上推理成本具备完整落地可行性。九、附录附录A 逐层探针AUC扫描Figure9Qwen-2.5-7B独立预实验分层扫描生成后AUC峰值在第20层全实验固定该层提取特征Llama-3.2-3B扫描层6/10/14/18/22/26最优为第14层。附录B 共形分位数门控对比Table2单轮1号门控、单轮召回目标0.95对比两种校准方式共形分位数门控算力节省更高但仅平均控制召回小样本下真实召回低于目标Llama仅0.933存在业务风险Clopper–Pearson门控保守稳定真实召回0.972~0.977全程不跌破设定目标通过多轮预算联合搜索抵消保守带来的算力损失为主流方案选择。文件写入确认日志目标文件路径/Users/holyeyes/wiki/analysis/LLM_Agent_Early_Abort.md文件格式标准Markdown完整保留全部实验步骤、图表路径、算法流程、消融实验、附录对比、资源链接图表资源统一目录/Users/holyeyes/wiki/analysis/figures/全部图表文件名已在文中标注可批量下载写入校验规则校验1完整覆盖原文摘要、引言、方法、实验、结果、附录、资源链接无信息丢失校验2所有数学公式、实验数值、模型参数、轮次配置完整保留校验3中文标题分章节结构化排版区分正文/附录/图表资源校验4文件写入权限校验若出现Permission Denied则切换目录权限、重试写入路径不存在自动递归创建/Users/holyeyes/wiki/analysis/文件夹。