今天分享Frontis.AI与清华的最新自我改进RSI机器学习工程MLE。开源了一个面向MLE中RSI研究的全栈系统OpenMLE降一个35B的开源模型在 MLE-Bench Lite 上把 Medal Average 从 39.39% 一路推到 71.21%——超过GPT-5.5 Codex逼近GPT-5.6 Sol和 2.8T 参数的Kimi K3。清华开源的另一个自学习Skill新框架提速500倍一、RSI 的可执行试验田递归自我改进Recursive Self-Improvement, RSI是 AI 领域的终极叙事之一系统改进产生下一代系统的过程形成自我强化的循环。但 RSI 一直停留在哲学讨论层面缺一个可测量、可执行、可复现的实验场。机器学习工程Machine Learning EngineeringMLE天然就是 AI4AI 的一个具体实例——Agent 要为真实任务构建 ML 方案并通过执行反馈反复迭代。Figure 2 |左侧是 OpenMLE 全栈环境层/学习层/搜索层与 Frontis-MA1 的关系右侧是从进化到 RSI 的机制阶梯注意右侧的机制阶梯Mechanism Hierarchy这是理解全文野心的钥匙Evolution进化变异 选择AI 反复修改候选方案Meta-Evolution元进化进化轨迹被回收用来训练”提出修改的模型”——改进者本身被训练了Self-Evolution自进化经验回流RSI递归自我改进极限目标每个升级后的系统进一步改进产生后继者的过程。二、35B 模型的超级进化先看最刺激的图。MLE-Bench LiteOpenAI 官方 22 任务划分每任务 12 小时预算、单张 RTX 409012GB 显存封顶——注意这个沙盒算力预算比绝大多数已报告评测都要小Figure 1 | MLE-Bench Lite 总榜左侧为全部模型×Harness 组合的 Medal avg3右侧 Pareto 面板展示模型参数量对数轴与分数的关系右侧的”模型尺寸 × 分数”Pareto 图才是精髓在一票百亿到万亿参数模型里35B 的 Frontis-MA1 几乎单独撑起了小模型端的 Pareto 前沿。换句话说后训练 领域化搜索栈把大约 80 倍的参数差距压缩到了 1.5 个百分点的分数差距。完整的受控对比数据同一 harness 下后训练带来21.22 个百分点35B和18.18 个百分点30B跨基座复现换一个更强的 harnessEvo-Max再叠加约 10 个点。训练收益和搜索收益是可组合的——这是全文最重要的定量结论。三、OpenMLE-Gym5758 个可执行任务的健身房训 MLE Agent 的第一个瓶颈不是算法是环境你需要成千上万个带数据、带评测器、能沙盒执行的任务包而现有基准最大的也就几百个MLE-Bench 75 个、MLE-Smith 606 个。Figure 3 | 任务策展左侧为三条数据源的质量-规模权衡中间为竞赛任务的漏斗式过滤11000 → 3972 → 2839 → 2240右侧为统一的可执行任务包格式public 输入 / private 答案 / 可执行 metric.pyOpenMLE-Gym 的做法是三条任务源在”质量-规模”权衡上互补Curated Anchors156 个人工精选质量最高但没法上量Kaggle Competitions2240 个人类撰写的题面 真实排行榜质量与规模平衡自动化管线从 Meta Kaggle 目录约 11000 个竞赛层层过滤最终保留 20%Kaggle Datasets3362 个基于 MLE-Smith 的 dataset-to-task 管线自动 induce 任务规模最大但质量方差大。Figure 4 | 规模与构成5758 个任务对现有可执行任务资源形成数量级优势模态上表格占 44%、图像 18%、时间序列 13%、多模态 11%任务类型上分类回归合计 87%四、OpenMLE-ERL把进化算子变成可训练目标这是全文方法上最巧的一节。传统做法要么训完整轨迹监督信号稀疏、和特定控制器耦合要么只做推理时搜索模型本身不变强。OpenMLE 的选择是把进化解耦成四个原子算子让训练与推理共用同一套算子接口。Figure 5 | OpenMLE 训练与推理总览四个可训练原子算子Draft 创建 / Improve 精炼 / Debug 修复 / Crossover 融合双亲同时服务于推理时的解空间树扩展、SFT 热启动和 RL 在线优化4.1 SFT 热启动26,259 条执行验证过的样本SFT 语料不是蒸馏来的文本轨迹而是沙盒里真实跑过、按分数筛过的。收集过程是预算自适应的达到样本配额或耗尽执行预算就停——简单任务早停把验证算力留给成功稀疏的难任务。Figure 7 | 从已执行 rollout 中学习左侧为 SFT 双路径语料构建右侧为 RL 的父节点选择奖励子奖励方差访问冷却、Top-1/Top-K 自适应边界奖励归一化、以及放大上尾信号的熵优势4.2 RL三个针对 MLE 场景的专门设计MLE 的 RL 和数学/代码 RLVR 很不一样大量程序根本产不出可用奖励成功程序的分数来自不同量纲的指标反馈要等几分钟到几小时。OpenMLE-ERL 的三个应对① 自适应边界Adaptive Bounds。从每个任务的历史在策略分数前沿动态推导更紧的边界把原始分数重映射到 [0,1] 的处理后奖励——边界随策略一起进化在当前候选实际所在的区域保持分辨力。② 熵优势Entropic Advantage。熵优势用 exp(β·r) 放大 rollout 组内靠近头部的奖励差距替代 GRPO 风格的组归一化信号。效果很直观Figure 8 | 上尾奖励塑形的效果③ 异步 Rollout。OpenMLE 让各生成-执行组独立启动、完成即入队消费把策略更新和最慢任务解耦。RL 训练曲线验证奖励、验证奖牌数、rollout 奖励三线齐升Figure 6 | Frontis-MA1-35B 的 RL 训练曲线Validation Base Reward 从 ~0.15 升至 ~0.40Validation Medal Count176 个验证任务从 ~7 升至 ~25五、OpenMLE-Evo经验驱动的长程搜索训出来的算子要靠搜索框架组合。OpenMLE-Evo 基于 AIRA-Evo 风格的种群循环但重新设计了循环使用执行证据的方式。作者把它总结为两个耦合的科学问题下一个该扩展哪个节点超越贪心分数最大化记忆该怎么构建让被选中的算子拿到可行动的证据而不是不断膨胀的历史Figure 9 | OpenMLE-Evo 搜索 Harness四个核心机制结构化经验积累三因子父节点选择算子触发的记忆综合算子条件化上下文。六、实验训练与搜索的收益可以叠加6.1 Harness 本身就在创造价值固定模型换 harnessOpenMLE-Evo 在四个前沿模型家族上一致性地优于 Claude Code / Codex 这类通用编程 Agent 脚手架对 Frontis-MA1-35B相比原始 AIRA-Evo 也从 53.03% 提到 60.61%。Figure 10 11 | Harness 对比固定 harness 换模型Figure 10在统一的 OpenMLE-Evo 下Frontis-MA1-35B60.61%压过 MiniMax M3、豆包 2.1 Pro、DeepSeek-V4 Pro 等一批大模型仅次于 Kimi K2.6 和 GLM-5.2——而后两者参数量都在其十倍以上。Figure 10 | 统一 OpenMLE-Evo harness 下的模型对比实心柱为标准 Evo网格帽为 Evo-Max 额外增益6.2 长程自我改进收益来自结构重组而非反复修一个程序Figure 12逐任务轨迹更能说明机制。leaf-classification 任务上对比模型要么在很低的 Human Rank 上 plateau要么有改进但够不到奖牌Frontis-MA1 先用 Debug 建立可行的图像和表格分支再用 Crossover 保留两支的互补证据最后才用 Improve 升级融合模型。Figure 13mlsp-2013-birds音频任务上是同样的故事对比轨迹停在第一个可行解附近Frontis-MA1 把提交修复当起点逐步构建专门的音频分支——记忆的作用体现在选择而非堆积。Figure 14 | mlsp-2013-birds 轨迹修复与重组产出银牌鸟类检测器6.3 解的上限不只是更多铜牌而是更多金牌Figure 15 | 金银铜牌分解后训练和 Evo-Max 不只是把更多解推过铜牌线而是把成功解系统性地推向金牌区Frontis-MA1-35B Evo-Max 的金牌率追平 Kimi K3超过 Claude Opus 4.8 Claude Code 和 Gemini 3.5 Flash Gemini CLI6.4 效率解剖省 token 反而更高产同 checkpoint、同种子、同 12 小时预算、每 harness 66 个任务-run 的对照实验里OpenMLE-Evo 对原始 AIRA-EvoFigure 16 | 搜索效率对比两个案例研究把机制讲透了Figure 17 | 案例 1nomad2018 透明导体Figure 18 | 案例 2露脊鲸检测案例 2 值得所有做进化搜索的人多看一眼分数最高的分支和最有价值的分支经常不是同一个——B 分支保留的 Log-Mel Delta/Delta-Delta 时域通道恰好是 A 分支没有的。纯分数 softmax 会让这种结构性互补在选中前就被饿死。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】 自进化机器学习Engineering来了，清华出品
今天分享Frontis.AI与清华的最新自我改进RSI机器学习工程MLE。开源了一个面向MLE中RSI研究的全栈系统OpenMLE降一个35B的开源模型在 MLE-Bench Lite 上把 Medal Average 从 39.39% 一路推到 71.21%——超过GPT-5.5 Codex逼近GPT-5.6 Sol和 2.8T 参数的Kimi K3。清华开源的另一个自学习Skill新框架提速500倍一、RSI 的可执行试验田递归自我改进Recursive Self-Improvement, RSI是 AI 领域的终极叙事之一系统改进产生下一代系统的过程形成自我强化的循环。但 RSI 一直停留在哲学讨论层面缺一个可测量、可执行、可复现的实验场。机器学习工程Machine Learning EngineeringMLE天然就是 AI4AI 的一个具体实例——Agent 要为真实任务构建 ML 方案并通过执行反馈反复迭代。Figure 2 |左侧是 OpenMLE 全栈环境层/学习层/搜索层与 Frontis-MA1 的关系右侧是从进化到 RSI 的机制阶梯注意右侧的机制阶梯Mechanism Hierarchy这是理解全文野心的钥匙Evolution进化变异 选择AI 反复修改候选方案Meta-Evolution元进化进化轨迹被回收用来训练”提出修改的模型”——改进者本身被训练了Self-Evolution自进化经验回流RSI递归自我改进极限目标每个升级后的系统进一步改进产生后继者的过程。二、35B 模型的超级进化先看最刺激的图。MLE-Bench LiteOpenAI 官方 22 任务划分每任务 12 小时预算、单张 RTX 409012GB 显存封顶——注意这个沙盒算力预算比绝大多数已报告评测都要小Figure 1 | MLE-Bench Lite 总榜左侧为全部模型×Harness 组合的 Medal avg3右侧 Pareto 面板展示模型参数量对数轴与分数的关系右侧的”模型尺寸 × 分数”Pareto 图才是精髓在一票百亿到万亿参数模型里35B 的 Frontis-MA1 几乎单独撑起了小模型端的 Pareto 前沿。换句话说后训练 领域化搜索栈把大约 80 倍的参数差距压缩到了 1.5 个百分点的分数差距。完整的受控对比数据同一 harness 下后训练带来21.22 个百分点35B和18.18 个百分点30B跨基座复现换一个更强的 harnessEvo-Max再叠加约 10 个点。训练收益和搜索收益是可组合的——这是全文最重要的定量结论。三、OpenMLE-Gym5758 个可执行任务的健身房训 MLE Agent 的第一个瓶颈不是算法是环境你需要成千上万个带数据、带评测器、能沙盒执行的任务包而现有基准最大的也就几百个MLE-Bench 75 个、MLE-Smith 606 个。Figure 3 | 任务策展左侧为三条数据源的质量-规模权衡中间为竞赛任务的漏斗式过滤11000 → 3972 → 2839 → 2240右侧为统一的可执行任务包格式public 输入 / private 答案 / 可执行 metric.pyOpenMLE-Gym 的做法是三条任务源在”质量-规模”权衡上互补Curated Anchors156 个人工精选质量最高但没法上量Kaggle Competitions2240 个人类撰写的题面 真实排行榜质量与规模平衡自动化管线从 Meta Kaggle 目录约 11000 个竞赛层层过滤最终保留 20%Kaggle Datasets3362 个基于 MLE-Smith 的 dataset-to-task 管线自动 induce 任务规模最大但质量方差大。Figure 4 | 规模与构成5758 个任务对现有可执行任务资源形成数量级优势模态上表格占 44%、图像 18%、时间序列 13%、多模态 11%任务类型上分类回归合计 87%四、OpenMLE-ERL把进化算子变成可训练目标这是全文方法上最巧的一节。传统做法要么训完整轨迹监督信号稀疏、和特定控制器耦合要么只做推理时搜索模型本身不变强。OpenMLE 的选择是把进化解耦成四个原子算子让训练与推理共用同一套算子接口。Figure 5 | OpenMLE 训练与推理总览四个可训练原子算子Draft 创建 / Improve 精炼 / Debug 修复 / Crossover 融合双亲同时服务于推理时的解空间树扩展、SFT 热启动和 RL 在线优化4.1 SFT 热启动26,259 条执行验证过的样本SFT 语料不是蒸馏来的文本轨迹而是沙盒里真实跑过、按分数筛过的。收集过程是预算自适应的达到样本配额或耗尽执行预算就停——简单任务早停把验证算力留给成功稀疏的难任务。Figure 7 | 从已执行 rollout 中学习左侧为 SFT 双路径语料构建右侧为 RL 的父节点选择奖励子奖励方差访问冷却、Top-1/Top-K 自适应边界奖励归一化、以及放大上尾信号的熵优势4.2 RL三个针对 MLE 场景的专门设计MLE 的 RL 和数学/代码 RLVR 很不一样大量程序根本产不出可用奖励成功程序的分数来自不同量纲的指标反馈要等几分钟到几小时。OpenMLE-ERL 的三个应对① 自适应边界Adaptive Bounds。从每个任务的历史在策略分数前沿动态推导更紧的边界把原始分数重映射到 [0,1] 的处理后奖励——边界随策略一起进化在当前候选实际所在的区域保持分辨力。② 熵优势Entropic Advantage。熵优势用 exp(β·r) 放大 rollout 组内靠近头部的奖励差距替代 GRPO 风格的组归一化信号。效果很直观Figure 8 | 上尾奖励塑形的效果③ 异步 Rollout。OpenMLE 让各生成-执行组独立启动、完成即入队消费把策略更新和最慢任务解耦。RL 训练曲线验证奖励、验证奖牌数、rollout 奖励三线齐升Figure 6 | Frontis-MA1-35B 的 RL 训练曲线Validation Base Reward 从 ~0.15 升至 ~0.40Validation Medal Count176 个验证任务从 ~7 升至 ~25五、OpenMLE-Evo经验驱动的长程搜索训出来的算子要靠搜索框架组合。OpenMLE-Evo 基于 AIRA-Evo 风格的种群循环但重新设计了循环使用执行证据的方式。作者把它总结为两个耦合的科学问题下一个该扩展哪个节点超越贪心分数最大化记忆该怎么构建让被选中的算子拿到可行动的证据而不是不断膨胀的历史Figure 9 | OpenMLE-Evo 搜索 Harness四个核心机制结构化经验积累三因子父节点选择算子触发的记忆综合算子条件化上下文。六、实验训练与搜索的收益可以叠加6.1 Harness 本身就在创造价值固定模型换 harnessOpenMLE-Evo 在四个前沿模型家族上一致性地优于 Claude Code / Codex 这类通用编程 Agent 脚手架对 Frontis-MA1-35B相比原始 AIRA-Evo 也从 53.03% 提到 60.61%。Figure 10 11 | Harness 对比固定 harness 换模型Figure 10在统一的 OpenMLE-Evo 下Frontis-MA1-35B60.61%压过 MiniMax M3、豆包 2.1 Pro、DeepSeek-V4 Pro 等一批大模型仅次于 Kimi K2.6 和 GLM-5.2——而后两者参数量都在其十倍以上。Figure 10 | 统一 OpenMLE-Evo harness 下的模型对比实心柱为标准 Evo网格帽为 Evo-Max 额外增益6.2 长程自我改进收益来自结构重组而非反复修一个程序Figure 12逐任务轨迹更能说明机制。leaf-classification 任务上对比模型要么在很低的 Human Rank 上 plateau要么有改进但够不到奖牌Frontis-MA1 先用 Debug 建立可行的图像和表格分支再用 Crossover 保留两支的互补证据最后才用 Improve 升级融合模型。Figure 13mlsp-2013-birds音频任务上是同样的故事对比轨迹停在第一个可行解附近Frontis-MA1 把提交修复当起点逐步构建专门的音频分支——记忆的作用体现在选择而非堆积。Figure 14 | mlsp-2013-birds 轨迹修复与重组产出银牌鸟类检测器6.3 解的上限不只是更多铜牌而是更多金牌Figure 15 | 金银铜牌分解后训练和 Evo-Max 不只是把更多解推过铜牌线而是把成功解系统性地推向金牌区Frontis-MA1-35B Evo-Max 的金牌率追平 Kimi K3超过 Claude Opus 4.8 Claude Code 和 Gemini 3.5 Flash Gemini CLI6.4 效率解剖省 token 反而更高产同 checkpoint、同种子、同 12 小时预算、每 harness 66 个任务-run 的对照实验里OpenMLE-Evo 对原始 AIRA-EvoFigure 16 | 搜索效率对比两个案例研究把机制讲透了Figure 17 | 案例 1nomad2018 透明导体Figure 18 | 案例 2露脊鲸检测案例 2 值得所有做进化搜索的人多看一眼分数最高的分支和最有价值的分支经常不是同一个——B 分支保留的 Log-Mel Delta/Delta-Delta 时域通道恰好是 A 分支没有的。纯分数 softmax 会让这种结构性互补在选中前就被饿死。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】