这项由三星英国研究与开发院Samsung RD Institute UK与伦敦玛丽女王大学Queen Mary University of London联合开展的研究于2026年6月29日发布于预印本平台arXiv编号为arXiv:2606.29961。研究的核心成果是一个名为DuoMem的框架专门解决一个让工程师们头疼已久的问题如何让手机、机器人等小设备上的迷你AI拥有只有超级大型AI才具备的复杂推理能力**先从一个你可能经历过的场景说起。**你的手机助手或者家里的扫地机器人在执行一些稍微复杂点的任务时经常会表现得笨手笨脚——明明你说帮我找到厨房里的锅洗干净放回原处它就是搞不定。与此同时你可能听说过ChatGPT这类超强的大型AI它们几乎什么都会但运行它们需要的计算机算力堪比一座小型数据中心根本不可能塞进你的手机芯片里。这就是AI领域长期以来的一个核心矛盾能力强的AI太胖放不进设备放进设备的AI太瘦干不了复杂活儿。三星和伦敦玛丽女王大学的研究团队在这篇论文里提出的DuoMem本质上是一套精华提炼术——把超级大模型解决问题的智慧以极低的代价灌输给小模型。**一、为什么大脑容量在AI世界如此重要**在理解DuoMem之前有必要先搞清楚AI模型的参数量到底是个什么概念。你可以把AI模型理解成一个巨大的食谱书参数量越多这本食谱书收录的菜肴技巧就越丰富、越精细。一个拥有720亿个参数的大模型简称72B就像一位拥有几十年经验、记住了上万道菜做法的顶级大厨而一个只有40亿参数的小模型简称4B则像是刚刚出师、只学了几百道菜的新手厨师。当这两位厨师都被要求完成一项复杂任务——比如在陌生的厨房里找到胡萝卜洗干净切碎炒熟装盘放进冰箱——差距就会立刻显现出来。顶级大厨会有条不紊地检查橱柜、抽屉按照正确的顺序一步步完成新手厨师则可能站在厨房中间不知所措甚至打开冰箱找刀走了很多弯路。研究团队正是用一个叫做ALFWorld的虚拟家居环境来测试AI的这种做家务能力。在这个文字游戏式的虚拟环境里AI扮演一个家庭助手需要通过输入文字指令比如去往厨台1号、拿起苹果1号来完成各种家务例如把东西清洁好放进抽屉、加热食物后收进柜子等等。这个环境共有六种任务类型需要AI进行多步骤的规划和操作一点都不简单。测试结果验证了这种直觉在没有任何辅助的情况下720亿参数的大模型Qwen2.5-72B-Instruct能完成87.1%的任务而40亿参数的小模型Qwen3-4B-Instruct只能完成可怜的4.3%。也就是说同样面对一百项家务任务大模型能搞定87件小模型只能搞定4件多——这个差距是惊人的。**二、程序记忆AI版本的经验积累**在深入介绍DuoMem之前还需要了解一个关键概念程序记忆Procedural Memory。这是整个研究的基础支柱。程序记忆顾名思义是关于如何一步步做某件事的知识。当你小时候第一次学骑自行车父母会告诉你先坐上去双脚撑地然后蹬脚踏板同时保持平衡。这套流程化的操作步骤就是程序记忆。一旦你真正学会了下次骑车就不需要重新想步骤身体会自动执行。对于AI智能体而言程序记忆是指把过去完成任务的经历提炼成可以重复使用的操作脚本。比如AI完成了一次清洁海绵并放进抽屉的任务之后可以把这次经历总结成一段话要清洁某样东西并放进抽屉首先在台面上找到目标物品然后拿着它走到水槽边清洁接着打开目标抽屉把它放进去。这段总结就是一条程序记忆脚本下次遇到类似任务时AI可以直接参考这段经验而不必从零开始摸索。研究团队测试发现程序记忆对于小模型的帮助是戏剧性的。当给那个只能完成4.3%任务的4B小模型配备程序记忆系统MemP即Full Procedural Memory完整程序记忆配置之后它的成功率竟然跳升到了55%足足提升了12倍之多。相比之下同样的记忆系统给大模型带来的提升只有5%左右。这说明了一个有趣的现象越是能力欠缺的小模型从外部知识中获得的帮助就越大就像一位经验不足的新手厨师如果手边有一本详细的食谱进步会比顶级大厨拿到同样食谱要明显得多。完整的程序记忆系统MemP包含两部分内容一方面是k条程序脚本也就是对过去类似任务的简短总结另一方面是一条完整的参考轨迹reference trajectory即一次完整的、从头到尾的成功任务记录供AI当作示例参考。当AI接到新任务时系统会根据任务描述从记忆库里找出最相关的那些脚本一并呈现给AI让AI在前人经验的指引下解题。**三、DuoMem的核心两条并行的智慧传输管道**既然程序记忆如此有效那DuoMem又做了什么额外的事情呢关键问题在于谁来写这些程序记忆脚本在普通的程序记忆系统里脚本是由完成任务的AI自己总结的。但小模型自己总结的经验质量往往参差不齐——就像一个刚出道的新手厨师即便学了几道菜写出来的菜谱也往往遗漏关键步骤或者写了一堆无关紧要的细节。DuoMem的第一个创新就是不让小模型自己写脚本而是让顶级大厨来写然后把这些高质量脚本交给新手厨师使用。这是DuoMem的第一条智慧传输管道研究团队称之为情境空间蒸馏Context-Space Distillation简称CD。蒸馏这个词来自化学原意是把混合物中的精华提炼出来在这里它形象地描述了从大模型的能力中提炼出精华再传给小模型的过程。具体操作是这样的在正式部署小模型之前研究人员先让大模型720亿参数的Qwen2.5-72B-Instruct把所有训练任务都做一遍然后大模型把每次完成任务的经历总结成一条条程序脚本存进一个记忆库里。这个过程是离线完成的可以提前准备好。整个记忆库的大小只有大约4MB相当于几张高清照片的体积非常轻量。当小模型遇到新任务时系统就从这个记忆库里检索出最相关的脚本附在小模型的输入信息里。检索方法很聪明把任务描述和每条脚本都转换成一串数字向量然后找出数字向量最相近的那几条——数学上叫余弦相似度直觉上就是找最像的。这个过程完全不改变小模型本身的任何参数零代价零修改只是换了一批更高质量的参考资料。每条程序脚本平均只有约70个词token那条完整的参考轨迹大约480个词加在一起对输入的额外负担非常有限。然而光靠好的参考资料还不够。就算你把一本世界顶级厨师的食谱交给一个完全不懂厨艺的人他也未必能按图索骥做出好菜——因为他连基本的刀工、火候控制都不具备。这就是DuoMem的第二条智慧传输管道发挥作用的地方参数空间蒸馏Parameter-Space Distillation。参数空间蒸馏的逻辑是与其只给小模型看好食谱不如直接培训它让它跟着顶级大厨的操作视频反复练习把那些行为模式刻进自己的肌肉记忆里。具体来说研究人员先让大模型在3553道训练任务上各跑几遍每道任务最多尝试5次把所有成功完成任务的操作记录下来形成一个专家示范数据集——失败的记录直接丢弃只留成功的共收集到11434条成功轨迹。然后用这批数据对小模型进行微调fine-tuning。但这里有个重要的技术细节微调一个AI模型通常需要更新它全部的参数代价极大。研究团队采用了一种更聪明的方式叫做LoRA低秩适应Low-Rank Adaptation。LoRA的思路是不改动原来模型的核心知识而是在旁边挂一组小小的附加插件——类似于在一本厚重的教科书旁边夹一叠便签所有新学的技能都记在便签上教科书本身一字不改。对于4B的小模型这组LoRA插件只有约590万个参数不到原始模型的0.15%存储空间只需12MB左右。训练过程也出奇地高效只需过一遍数据一个训练轮次就能收工。在训练方式上研究团队还对比了三种不同的策略。第一种叫完整历史Full History也就是把整个任务过程从头到尾都给模型看让它学习每一步的操作。第二种叫仅最新Latest Only只给模型看最后一步操作。第三种叫最后五步Last-5给模型看最后五步。实验结果非常清晰完整历史的效果远远好于其他两种在没有记忆辅助的情况下完整历史策略达到42.1%的成功率而仅最新只有27.9%最后五步是31.4%。道理很直观通过看完整的操作过程模型能学到早期的观察如何影响后来的行动这种高阶的决策逻辑而不只是学习孤立的局部动作。**四、两条管道合并效果超过11**DuoMem框架就是把这两条智慧传输管道结合在一起先用LoRA对小模型进行参数微调让它在行为上向大模型靠拢然后在推理时再把大模型生成的高质量程序脚本附在输入里给小模型额外的知识支撑。实验数据展示了这种组合的效果对于4B小模型单独使用程序记忆MemP用自己生成的脚本能达到55%单独换成大模型生成的脚本CD提升到56.4%进步有限单独使用LoRA微调配合程序记忆达到72.1%进步显著而两者同时使用的完整DuoMem方案则达到了77.9%。从55%跳到77.9%增加了近23个百分点——而且这个提升幅度明显超过了CD单独贡献的1.4个点和LoRA单独在MemP基础上贡献的17.1个点之和1.417.118.5点。这说明两条管道并不只是简单叠加而是产生了协同效应LoRA训练让小模型更擅长利用情境信息而高质量的情境脚本让LoRA学到的能力得到更充分的发挥两者互相强化。对于2B的超小模型Gemma4-E2B-it这种协同效应更加显著CD单独提升到16.4%基准14.3%LoRA单独达到46.4%两者结合则达到55.7%比LoRA单独多了9.3个百分点比CD单独多了39.3个百分点。对于12B的Gemma3-12B-it从基础的41.4%出发CD贡献5个百分点LoRA贡献15个百分点但两者结合最终贡献了整整25个百分点——这已经超过了两者分别贡献之和20个百分点协同效应清晰可见。**五、速度小模型的另一张王牌**光有准确率还不够对于部署在手机或机器人上的AI来说速度同样至关重要。研究团队同时测量了每个模型完成一项任务所需的平均时间和平均步骤数。测试结果让人眼前一亮。720亿参数的大模型尽管每个任务用的步骤数较少平均约15-18步但因为模型本身计算量巨大每完成一项任务平均需要16.7到20.6秒。相比之下经过DuoMem增强的4B小模型平均只需4.89秒——比大模型快了3.4倍以上。与此同时DuoMem小模型所需的步骤数也在下降。没有任何辅助时4B模型平均需要走29.3步才放弃通常是失败告终DuoMem之后平均只需20.6步就能成功完成——步骤减少了约30%。这个效率提升的背后逻辑是更准确的模型不会走弯路不会在错误的地方反复尝试自然用更少的步骤完成任务。对于实际部署来说这意味着什么意味着大模型根本不适合用在边缘设备上——不只是因为它的存储需求720亿参数在内存中占据巨量空间还因为其推理速度完全无法满足实时交互的需求。一个需要20秒才能给出下一步指令的家用机器人在日常使用中是灾难性的。DuoMem提供了一条可行路径用一个只有77.9%准确率对比大模型87.1%但速度快3倍多的小模型换取真正实用的边缘部署能力。**六、检索多少条记忆才合适**研究团队还仔细研究了一个实际问题在推理时应该给小模型看几条程序脚本这个数字太少参考信息不够太多则会拉长输入增加延迟甚至可能干扰模型判断。以Qwen3-14B非思维链模式配合大模型生成的脚本为例当只给1条脚本时成功率是71.4%给2条提升到73.6%给4条达到78.6%给8条和10条依然保持在78.6%。也就是说在同时包含完整参考轨迹的配置下成功率在4条脚本时就已经饱和了。道理也很清楚那条完整的参考轨迹本身已经提供了密集的程序信息额外脚本的边际收益快速递减。相比之下如果只使用脚本而不包含完整参考轨迹成功率会随着脚本数量的增加持续上升从1条的52.9%一路涨到10条的63.6%没有明显的饱和迹象——每一条新脚本都在补充新的操作模式。因此研究团队在所有正式实验中统一使用了k10条脚本的配置这样既能在仅用脚本的场景下得到最好的性能在加上完整轨迹的场景下也不会更差。**七、思考模式的两面性准确与速度的取舍**在研究过程中研究团队还专门研究了一个有趣的现象现代AI模型往往有两种工作模式一种是普通模式直接给出答案另一种是思维链模式Thinking Mode模型在回答之前会在内部进行大量推理和自我检查类似于做数学题时列草稿的过程。以8B大小的Qwen3-8B为例思维链模式的确能带来更高的成功率在配有脚本和大模型生成记忆的情况下思维链模式达到77.1%而普通模式只有62.1%。然而代价是触目惊心的思维链模式平均每项任务耗时58到101秒而普通模式只需13到15秒——慢了整整4.4到6.8倍。一项普通模式下13秒搞定的任务到了思维链模式需要超过一分钟。这对于边缘部署来说是完全不可接受的。试想一下你对着家里的AI助手说帮我把锅洗干净放回柜子然后盯着它等了两分钟它才开始走向水槽——这种体验还不如自己动手。正因如此DuoMem对于非思维链模式下的小模型价值尤为突出它能让普通模式的小模型在保持高速响应的同时通过程序记忆和LoRA微调显著弥补准确率的不足实现了速度与能力的最佳平衡点。**八、两个失败场景与一个成功故事**为了更直观地说明DuoMem带来的变化研究团队还给出了一个具体任务的完整操作记录清洁一把抹刀spatula然后放进抽屉。同一个4B小模型在三种配置下的表现就像三个厨师面对同一道菜的故事。没有任何辅助的小模型一开始就暴露了完全不理解这个虚拟世界规则的问题。它连续尝试打开抽屉1号、打开抽屉2号但根本没有先走过去——就像隔着一堵墙想开门一样每次都得到什么都没发生的回复。它试遍了所有台面、柜子、冰箱、微波炉都没能拿到抹刀因为它始终没有移动到正确位置。最后它走到水槽边发现的是一把黄油刀于是开始说服自己黄油刀也算是抹刀尝试把黄油刀放进抽屉当然也失败了。整整走了30步任务失败。配备了程序记忆的小模型表现明显好转。它学会了先导航再操作的基本逻辑开始系统地检查各个台面和柜子不再盲目尝试。然而当它在2号台面上发现一把黄油刀时还是犯了类似的错误认为黄油刀可以充当抹刀拿走了错误的物品。之后它无论怎么尝试也无法打开抽屉因为操作规则是先到达位置再操作而它携带的是错误物品。最终还是失败同样走了30步。记忆帮它学会了正确的行动逻辑但没能弥补模型本身在物品识别和任务理解上的弱点。同时配备了LoRA微调和大模型脚本的DuoMem配置同一个小模型展现出了截然不同的表现。它有条不紊地检查了1号到6号柜子然后走到3号台面找到了真正的抹刀spatula 1。它拿起抹刀走到水槽边清洗干净再走到1号抽屉打开它把干净的抹刀放了进去。任务完成仅用了14步耗时9.1秒。整个过程几乎是教科书式的标准流程定位、拾取、清洗、放置没有任何多余的动作。这三个故事的对比生动呈现了DuoMem两条管道各自的作用程序记忆解决了做事要按什么顺序的问题LoRA微调则解决了要认准是什么、不要张冠李戴的问题两者缺一不可。**九、这套方法的边界与未来**任何研究成果都有其适用范围和局限性研究团队对此也坦诚相告。首先所有实验都在ALFWorld这一个虚拟家居环境中进行虽然这是该领域最广泛使用的程序记忆测试平台但把DuoMem推广到网页浏览、代码生成等其他复杂场景需要进一步验证。其次整套方案目前只用了一个老师模型Qwen2.5-72B-Instruct如果能同时从多个大模型中汇集智慧或者让模型在实际使用中不断更新自己的记忆库持续学习效果可能还会更好。另外实验中报告的运行速度是在配备两张专业显卡A100 80GB的服务器上测量的实际部署在手机芯片或机器人处理器上的速度还需要单独测试。尽管有这些局限DuoMem的核心机制——情境空间蒸馏和参数空间蒸馏——在设计上是完全与模型架构和任务类型无关的。只要能收集到大模型成功完成任务的记录就能按照同样的流程蒸馏知识给小模型。这种普适性是这套框架最有价值的特质之一。说到底DuoMem做的事情可以用一个很朴素的比喻来归纳它让顶级大厨把自己的拿手食谱写下来情境蒸馏同时手把手带着新手反复演练真实的烹饪过程参数蒸馏最终新手不仅学会了按谱做菜还把操作技法刻进了肌肉记忆。结果是一个在能力上大约相当于顶级大厨九成的小厨师速度却比顶级大厨快了三倍多而且所需的厨房空间计算资源也少得多。对于普通用户来说这项研究预示着未来的手机AI助手、家用机器人或者可穿戴设备将能够以更低的功耗、更快的速度完成目前只有大型云端AI才能处理的复杂多步骤任务。你不再需要把数据上传到远程服务器等待云端处理结果返回取而代之的是一个在设备本地就能实时运行的聪明助手。当然你可能会好奇如果将来大模型本身变得足够轻巧能直接放进小设备DuoMem是否还有存在的意义这是个好问题。从现阶段来看4B与72B之间的能力差距大到难以仅靠模型压缩技术来弥合而DuoMem提供的是另一种思路——不是缩小模型而是把模型的知识外化出来以可检索、可更新的记忆库形式持续发挥作用。这两条路并不矛盾未来或许可以结合使用。有兴趣深入了解技术细节的读者可以通过arXiv编号2606.29961查阅完整论文研究团队在论文附录中提供了极为详尽的实验数据、超参数设置和完整的操作轨迹案例值得细读。QAQ1DuoMem是用来做什么的ADuoMem是三星英国研究院和伦敦玛丽女王大学联合开发的一套AI知识提炼框架专门把超大型AI模型解决复杂任务的能力以极低代价传递给小型设备上的轻量AI模型让手机、机器人等边缘设备的AI也能完成多步骤复杂任务同时保持实时响应速度。Q2LoRA微调和普通AI训练有什么区别A普通AI训练需要更新模型所有参数计算量极大LoRA只在原始模型旁边添加一组极小的附加模块只训练这部分参数原模型完全不动。对于40亿参数的小模型LoRA附加模块只有约590万个参数存储空间不到12MB训练只需一轮数据就能完成效率远高于全量训练。Q3为什么大模型不直接部署在手机上而要用DuoMem这种间接方式A720亿参数的大模型本身就需要庞大的存储空间和计算资源根本无法在手机或机器人等设备上运行。即便在专业服务器上大模型每项任务也需要约17到20秒无法满足实时交互需求。DuoMem增强后的40亿参数小模型每项任务只需约5秒速度快3倍多且可以在本地运行是目前更实用的边缘部署方案。