斯坦福小镇2023和2026的一些思考
从 Stanford Generative Agents 到 Agent Society2023 年 4 月斯坦福大学发布了一篇热议论文——Generative Agents: Interactive Simulacra of Human Behavior。论文展示了一个名叫Smallville的虚拟小镇。这里住着 25 个由大语言模型驱动的 Agent。他们会起床、做早餐、工作、聊天、约朋友、组织聚会甚至在没有人为指定剧本的情况下自发组织了一场情人节派对。第一反应还是原来 LLM 还能这样玩也符合对于AI和人娱乐交互的想象。但其实他更有意思的是非一问一答的模式而是AI的“自发性”一群持续存在的 Agent。每一个 Agent 都拥有对环境的观察Observation长期记忆Memory Stream行动规划Planning高层反思Reflection整个系统形成了一个持续循环。于是 Agent 不再只是回答问题而是真正生活在一个虚拟世界里。虽然在26年回顾的时候memory已经成为见怪不怪的设计了。Memory Stream建立了一套分层记忆形成 Observation Memory。其中包括时间、地点、事件、涉及的人、Importance Score真正调用模型时并不是把所有历史全部发送而是按照Score Recency Importance Relevance 做动态排序。只有最相关的记忆进入上下文Reflection 则进一步把大量事件压缩成更高层的经验。从event推理出来habits。这样上下文不会无限增长同时 Agent 又保持长期一致性。Stanford 小镇真正分化出了两个方向一般我们可以 Stanford 小镇理解成多个 Agent 一起聊天。它实际上打开了两条完全不同的发展路线。第一条路线数字用户模拟Digital Human在很多企业JD上看到过目标不是研究 Agent。而是研究如何模拟真实用户。例如如果我是电商平台能不能提前模拟1000 个消费者。看看新首页会不会提升点击率新价格策略是否合理新品上市后市场会有什么反应又或者游戏公司可以提前模拟1000 名玩家看看新的任务设计是否合理。医院可以模拟患者。企业可以模拟投资人。……这里真正困难的并不是 Agent而是Agent 到底如何才能像真实的人需要输入哪些信息除了年龄、职业、收入、兴趣、历史行为、社交关系、决策偏好甚至人格之外还应该怎么去建模。否则所谓的用户模拟很可能只是 Prompt Engineering。模拟结果到底代表真实用户还是代表 GPT 的训练语料这其实是目前数字用户最大的可信度问题。更关键的是需要评估这类模拟的增量价值相较于传统用户研究、历史行为数据分析、A/B 测试和灰度实验它是否能够以更低的试错成本、更短的验证周期提供足够稳定且可执行的策略判断。否则即使模拟过程看起来复杂其边际收益也未必能够覆盖建模、校准和维护成本。所以我认为数字用户模拟最大的挑战不是 Multi-Agent而是Behavior Modeling。第二条路线Agent Society相比数字用户我其实更看好另一条路线。既然模拟真实人很困难那为什么一定要模拟人未来系统里本来就会存在大量 Agent它们本身就是数字协作体。于是研究Agent 怎么合作反而比研究 Agent 如何像人更加现实。这里研究对象已经不是Human Society而是Agent Society。例如大量Agent仓库中Agent它们之间不断建立依赖协作竞争合并淘汰派生。一个新的的问题可能变成什么样的 Agent 组织方式效率最高而不是有点贩卖概念的社会学研究Agent 像不像真人。去解决Multi-Agent 的问题随着 LangChain、LangGraph 等 Agent 编排框架的发展固定工作流与自主 Agent 之间的实现边界正在变得更加模糊。但从系统结构上看许多所谓的 Multi-Agent 系统仍然依赖预先定义的角色、节点和转移关系本质上是带有条件分支和循环控制的工作流而不是能够自主形成协作关系的动态 Agent 组织更别说Agent 并没有真正形成社会。我认为至少存在几个问题。第一责任边界不清。很多 Agent 只是名字不同。输入输出、工具权限、质量标准几乎一样。导致重复劳动。第二搭便车有些 Agent 并没有真正贡献。只是不断建议交给 XX Agent。第三缺少纠偏任务拆错了、证据不足、工具失败。很多系统只能Task Failed而不会重新规划。第四协作关系固定今天Planner 永远找 Writer明天还是Agent 不会学习谁更适合合作。Dynamic Agent Graph相比固定 WorkflowDynamic Agent Graph的模式还有待发掘每一个 Agent 注册CapabilityToolInput SchemaOutput SchemaCostLatencyEvaluation系统根据任务动态建立上下游关系任务完成以后继续评价谁贡献最大。谁经常返工。谁成本最高。谁最稳定。随后再动态更新协作图不是固定 Workflow而是一张不断变化的协作网络。Agent 组织应该能够演化如果未来真的存在成百上千个 Agent那么组织本身应该能够演化。例如某类任务频繁出现系统可以自动派生新的 Agent。如果两个 Agent 长期能力重叠可以自动合并。如果某个 Agent长期输出质量差、成本高、被下游不断纠错可以降低权重。甚至淘汰。未来真正演化的对象不一定是 Prompt而是整个 Agent Organization的规则世界优胜劣汰设定。我的观点Stanford 小镇最大的贡献不是证明Agent 可以聊天。而是第一次让大家开始认真思考Agent 能不能形成一个真正持续演化的社会。Multi-Agent 的竞争可能不会发生在 Prompt Engineering也不会发生在 Workflow。真正值得研究的是 Agent 如何形成组织、如何建立协作关系、如何完成自我演化。如果数字用户模拟解决的是Agent 如何像人。那么 Agent Society 解决的就是Agent 如何成为一种新的数字组织。这可能才是 Stanford Generative Agents 留给 Multi-Agent 领域最值得继续探索的问题。