项目与产品这是一个项目、产品和创意的索引。rlm - workflowtinytunes DJlurkkitrole - modelPocketmodel文章作品编码代理的递归模式中国 AI 实验室为何选择开源并将持续开源编码代理与日益凸显的 1% 问题role - model模型路由协议案例联系方式邮箱 我的新 Twitter模型路由的首要原则2026 年 7 月 3 日在构建模型路由器、路由协议和 Pi 扩展程序 _role - model_ 的过程中总结出了一些模型路由的原则这些原则对使用模型路由器或自行构建的人都很有帮助。1. 保持模型的差异性有时会看到有人在编码工作流中同时使用最新的 GPT 模型和最新的 Opus 模型并为它们分配不同的角色。从某种程度上说这样做并没有错但从路由的角度来看并非最优选择。虽然人们对 GPT 和 Opus 模型有不同的体验和偏好但它们都是擅长编码的通用模型处于相同的性能和成本层级。这意味着在它们之间进行路由很困难因为确定请求的难度以匹配模型就已经很不容易了而当它们在各方面表现相近时要决定将请求发送到哪个模型就更难了。与其在两个前沿模型之间进行路由不如在一个前沿模型和另一个至少在速度、质量和成本这三个约束条件之一上表现出色的模型之间进行路由。例如将路由器与 GPT 5.5 结合使用通过将中等和简单的请求路由到 DeepSeek V4 Pro 来扩展订阅配额。DeepSeek V4 Pro 成本显著降低在处理非常困难的任务时能力也明显较弱因此在这里做出路由决策会更容易。2. 控制模型池的规模这一点是由上一点推导而来的。你可能认为增加模型池中的模型数量以便在更多模型之间进行路由是件好事。例如可以将 role - model 配置为使用 GPT 5.5、Kimi 2.7、DeepSeek V4 Pro 和 DeepSeek V4 Flash甚至还可以使用几个较小的 GPT 模型。但如果每个模型没有明显的特征添加更多模型只会让路由决策变得更困难。实际上由于性能原因这个模型池最终可能只会在 GPT 5.5 和另一个因缓存预热而被选中用于处理小任务的模型之间进行路由。因此除非你拥有具有明显差异的模型否则不要增加模型池的规模。默认情况下将模型池规模限制为 2只有在能够明确每个模型的角色时才添加更多模型。添加一个模型是否能提高速度、质量或降低成本如果不能就不要添加。3. 使用相对的、基于实际场景的基准测试有时会看到一些路由器仅根据模型的元数据如成本进行路由还有一些路由器会将来自 Artificial Analysis 等来源的外部基准测试数据添加到元数据中。这总比没有要好但并不理想因为这些基准测试可能无法提供足够细致的性能概况可能无法反映你的实际工作负载可能不是严格相对的并且可能缺少某些模型的数据。此外模型在不同的远程端点上表现不同可能会随时间变化在不同的本地系统上也会有不同的表现。为了获得模型池中的模型的清晰性能概况最好在路由器中运行基准测试对具有不同能力工具使用、视觉等、任务或角色的单个测试进行标记然后将模型的性能相互比较并打分以构建更丰富的路由概况。4. 评估过往决策以丰富路由决策数据基准测试只能作为一个起点。在进行请求路由时实际上是在以某种方式预测未来考虑到成本和速度等各种参数哪个模型在这个请求上的表现会最优。应该通过基于过往请求创建用户特定的评估并在模型池上作为基准测试运行来重新审视这些决策。这是了解模型性能和如何进行路由的最佳依据。此外遥测数据可以告诉我们端点的稳定性、请求的响应时间以及其他元数据中未涵盖的信息。如果你已经看到这里不妨使用 role - model 尝试按照自己的选择进行模型路由。查看下面评论中的仓库链接。如果你已经看到这里可能想了解一下 role - model并设置自己的模型池进行路由https://github.com/try - works/role - model