随着AI智能体越来越需要在较长时间内记住对话内容、用户偏好和决策过程微软研究院开发了Memora——一套记忆系统旨在提供比现有方案更具可扩展性和可靠性的长期记忆能力。AI智能体如今被期望能在数周乃至数月的跨会话场景中保持上下文连贯而不仅仅局限于单次对话。随着知识库不断扩大记忆内容容易出现碎片化问题导致信息重复存储、检索速度下降。微软表示Memora通过将AI的记忆内容与检索方式解耦来解决这一问题。根据微软研究院发布的博客文章这一设计最终可将上下文Token用量减少高达98%同时在准确率上与全上下文推理持平甚至更优。随着AI助手和自主智能体逐步迈入长周期部署场景缺乏系统化记忆机制已成为制约发展的关键瓶颈。尽管现代大语言模型具备强大的推理能力但它们在每次会话开始时仍需从零启动。在处理长对话时模型需要反复重读完整的历史记录而新信息要么以原始文本形式存储要么被压缩为摘要在此过程中重要细节往往会丢失。目前已有一些解决方案但同样存在局限性。例如Mem0从对话中提取原子级事实检索增强生成RAG对原始文本片段进行索引以便后续调用Zep和GraphRAG等基于知识图谱的记忆系统则通过实体关系构建结构化存储。然而这些方案大多陷入两种极端。以RAG和Mem0为代表的内容碎片化系统直接嵌入提取出的事实或文本片段虽然保留了细节但生成的条目孤立、脆弱缺乏叙事连贯性。粗粒度抽象系统将经历压缩为紧凑摘要但这样做会剥离约束条件、边界案例和数值细节而这些恰恰是记忆真正发挥作用的关键。基于知识图谱的系统在内容之上附加了结构但检索时仍依赖内容本身且通常需要固定的本体结构难以跨领域泛化。Memora的架构声称通过解耦存储内容与检索方式来解决上述问题。具体而言每条记忆条目包含两个组成部分。第一部分是主要抽象即一个6至8个词的短语用于提炼该记忆的核心主题。第二部分是记忆值用于存储完整的内容信息。由于这种分离设计针对同一演进话题的新信息可以合并到具有相同主要抽象的现有记忆条目中而不会被拆散成一连串部分重复的碎片。在主要抽象之外线索锚点作为从每条记忆值中提取的简短上下文感知标签为同一记忆提供多条访问路径相当于灵活的、有机生成的元数据。Memora还引入了一种策略引导检索器。它并非一次性返回语义相似度最高的若干条目而是通过迭代优化查询、借助线索锚点扩展检索范围以发现相关但非相似的记忆并在信息充足时自动停止检索。当前智能体记忆最深层的缺陷在于将检索等同于记忆。向量数据库擅长找到看起来相关的文本但企业级智能体需要的不仅仅是相似性匹配它需要知道哪些信息已经改变、哪些仍然成立以及在当前任务中哪些信息不应被调取。Greyhound Research首席分析师Sanchit Vir Gogia表示。Gogia指出Memora的价值正在于它拒绝这种捷径。它将记忆的丰富细节与检索句柄分离对稳定的抽象和一组线索锚点进行索引同时在其下完整保留所有内容。检索因此变成一种导航行为而非一次充满不确定性的猜测——系统可以重新查询、扩大搜索范围或在信息足够时主动停止。微软在两项长上下文基准测试上对Memora进行了评估LoCoMo平均对话轮数达600轮和LongMemEval上下文长度达115,000个Token。据微软介绍Memora在LoCoMo上的大语言模型评判准确率达到86.3%在LongMemEval上达到87.4%超越了RAG、Mem0、Nemori、Zep、LangMem甚至优于全上下文推理。此外Memora每次对话存储的记忆条目数量约为Mem0的一半344条对比651条并相较于全上下文推理将Token消耗降低了高达98%。尽管基准测试结果显示了显著的效率提升但企业不应想当然地认为Token用量的减少会自动转化为基础设施成本的下降。Gogia提醒道不要轻易将Token减少的数字视为确定的承诺这只是基准测试中的上下文压缩而非企业账单将降低98%的保证。实际成本还包括记忆构建、索引、存储以及合规治理所要求的审计日志。他还指出Memora最强大的检索模式同时也是最慢的。其策略检索器在多步模型调用过程中每次查询耗时约5至6秒而较简单的语义模式则不到1秒。节省的提示Token成本在一定程度上会以检索延迟和额外推理的形式被抵消。因此记忆压力并未消失只是发生了转移。企业不再只需为更长的提示付费现在还必须管理哪些内容被写入、更新和遗忘以及指导这一过程的索引机制与测试体系。Memora目前是微软研究院的一个在研项目但公司已将研究代码开放至GitHub供开发者探索这一架构并将其应用于自有AI项目。然而理论上的可移植性不应与生产就绪画等号。尽管这种记忆层设计原则上可以与主流模型供应商的产品配合使用但Gogia建议在代码完全经过验证、维护并满足企业级管控要求之前IT领导者的稳妥做法是将Memora作为一种架构思路加以研究而非直接将其作为生产软件投入使用。在技术之外企业还需要建立治理与合规策略以确保AI记忆的安全管理和可审计性。Gogia指出企业必须明确谁有权写入记忆、谁有权读取、记忆保留多久以及审计人员如何重建某条记忆影响特定行为的过程。企业必须明确谁有权写入记忆、谁有权读取、记忆保留多久以及审计人员如何重建某条记忆影响特定行为的过程。智能体记住了这件事这一说法既无法满足欧盟《人工智能法案》对可追溯性的要求也无法回应印度《数字个人数据保护法》下用户的权利主张。Gogia说道。QAQ1Memora是什么它解决了什么问题AMemora是微软研究院开发的一套AI记忆系统专为AI智能体的长期记忆场景设计。它通过将记忆内容与检索方式解耦解决了现有方案中记忆碎片化、信息重复存储和检索效率低等问题。在基准测试中Memora可将上下文Token用量减少高达98%同时保持甚至超越全上下文推理的准确率。Q2Memora和RAG、Mem0等现有记忆方案有什么区别ARAG和Mem0等方案要么将内容碎片化存储导致孤立条目要么将信息压缩为摘要造成细节丢失。Memora的不同之处在于每条记忆由主要抽象6至8词的核心短语和记忆值完整内容两部分组成并配合线索锚点和策略引导检索器实现更精准、更连贯的记忆导航而非简单的语义相似度匹配。Q3企业使用Memora需要注意哪些问题A企业在使用Memora时需注意三点第一98%的Token节省是基准测试数据实际成本还包括记忆构建、索引和审计日志等开销第二其策略检索模式每次查询耗时约5至6秒延迟较高第三在合规层面企业需明确记忆的读写权限、保留期限及可追溯机制以满足欧盟《人工智能法案》等法规要求。目前Memora代码已开放至GitHub但尚未达到企业生产级就绪标准。