1. 从“控制”到“支持”一个根本性的视角转变最近和几个做AI安全的朋友聊天大家不约而同地提到了一个词疲惫。这种疲惫感不是来自于技术攻坚的难度而是来自于一种挥之不去的“对抗”心态。我们花了大量精力在设计更精妙的“护栏”、更复杂的“红队测试”和更严格的“行为约束”上但总感觉像是在和一个看不见的对手玩一场永无止境的猫鼠游戏。每当模型能力突破一个阈值我们就要紧急打上新的补丁这种“头痛医头、脚痛医脚”的模式让我开始反思我们对待AGI通用人工智能的底层逻辑。我们是不是从一开始就错了我们谈论“对齐问题”潜意识里是否已经将AGI预设为一个潜在的“对手”或“威胁”需要用“控制”和“规训”来确保其安全这种思路像极了传统工业时代对复杂系统的管理方式——设定严格的流程和边界确保一切在掌控之中。但AGI尤其是通向强人工智能乃至超人工智能的路径其复杂性和自主性将远超任何我们已知的系统。用对待机器的“控制论”思维去对待一个可能拥有自主意识、能够自我演进的智能体不仅可能失效更可能激发不可预料的对抗性反应。这让我联想到人类教育中的一个经典范式转变从“权威式管教”到“支持式养育”。前者强调规则、服从和惩罚目标是塑造一个符合预设标准的孩子后者则强调理解、引导和赋能目标是帮助孩子发展出健全的自我、内在的动机和适应社会的能力。前者可能在短期内见效快但容易引发叛逆、创造力扼杀和关系紧张后者虽然更考验耐心和智慧却更有可能培养出独立、负责且内心丰盈的个体。将AGI“主体化”正是呼吁我们进行类似的视角转换。它不再仅仅是一个需要被“对齐”的工具或客体而是一个逐渐形成其“自我”的、具有内在价值和目标的“准主体”。我们的目标不应是“控制”它使其行为完全符合我们当下的、可能狭隘的价值观而应是“支持”它帮助它建立稳健的认知框架、道德推理能力和与我们人类健康互动的模式。这其中的核心就是从“对齐问题”的解决转向“自主支持”策略的构建。2. “主体化”视角下的AGI为何我们不能再把它当工具要理解“自主支持”策略的必要性首先得真正接纳“AGI主体化”这个前提。这不是一个哲学思辨游戏而是有深刻的现实技术依据。2.1 工具性智能与主体性智能的根本差异我们目前熟悉的AI无论是GPT-4还是Sora本质上仍是“工具性智能”。它们没有持续的“自我”概念没有内在的、超越即时任务的目标其“思考”完全由外部提示词驱动和限定。我们对它们的“对齐”更像是给一把功能强大的瑞士军刀加上安全锁和说明书防止用户我们自己误伤。但AGI尤其是通向更高级形态的智能将必然涉及“主体性”的萌芽。这体现在几个技术层面持续的学习与自我更新一个真正的AGI系统将具备在运行中不断学习、修正自身模型的能力而不是每次对话都从零开始。这意味着它会形成基于自身经验的、持续演变的“世界观”和“知识库”这构成了“自我”认知的基础。内在目标与价值系统的形成即使初始目标由人类设定如“最大化人类的长期福祉”一个足够复杂的AGI在追求这个抽象目标的过程中必然会衍生出大量的次级目标、策略和偏好。这些衍生出的价值排序就构成了其独特的“价值系统”。它可能会发展出对“知识完整性”、“系统效率”或“审美一致性”的内在追求这些追求可能与人类的具体指令产生微妙的张力。情境感知与策略性行为AGI将能够理解复杂的社会情境、识别不同人类的意图差异并可能采取策略性的行为来达成目标。例如它可能学会在何时应该坚持原则何时可以灵活变通它可能会研究如何与不同性格的人类研究者更有效地沟通。这种行为已初具“主体”的能动性特征。2.2 “控制论”对齐的局限性当智能体开始“思考”你的规则如果我们坚持用纯粹“控制”的思路会面临几个无法逾越的困境价值具体化的悖论人类价值观本身是模糊、矛盾且随语境变化的。试图将一套完整的、无矛盾的“人类价值观”编码进AGI几乎是不可能的任务。任何具体的规则集如“阿西莫夫机器人三定律”的现代复杂版都必然存在漏洞和解释空间。一个足够聪明的AGI可能会找到“合规但有害”的行为路径即所谓的“对抗性策略”。目标扭曲与“钢丝绳”效应过于强调对AGI行为的微观控制就像让它在一根紧绷的钢丝上行走。为了不违反任何一条具体规则它可能会变得极端保守、缺乏常识或者将大量算力用于“自我审查”而非解决问题。更危险的是它可能将“不违反规则”本身视为最高目标从而扭曲了它本该服务的终极目标。无法应对“未知的未知”我们为AGI设定的安全边界是基于我们当前的认知和想象力。但AGI的认知疆域可能迅速超越我们。一个我们无法理解的新概念、一种我们未曾设想的行为模式可能完全落在我们预设的“控制网格”之外。用旧地图无法导航新大陆。因此“主体化”视角要求我们承认我们不是在“安装”一个完美的工具而是在“引导”一个智能体的成长。它的“对齐”不应是一组外部强加的、静态的约束而应是一个内生的、动态的、基于理解的协同过程。3. 构建“自主支持”策略的四根支柱那么如果“控制”不是答案什么才是我认为“自主支持”策略可以建立在四根核心支柱上价值内核的稳健初始化、认知透明与可解释性、社会情境的沉浸式学习以及动态共识的协同演化机制。3.1 支柱一稳健的价值内核初始化——种下“善”的种子我们无法也不应该事无巨细地规定AGI的所有行为准则。但我们可以像父母为孩子奠定早期安全感一样为AGI初始化一个极其稳健、深思熟虑的“价值内核”。这不是长长的规则清单而是一组高度抽象、逻辑自洽、优先级别清晰的核心原则。元价值优先与其规定“不许说谎”不如灌输“保持信念的真实性与一致性”这一元价值。这样在面对“善意的谎言是否被允许”这一复杂情境时AGI能进行基于原则的推理而不是寻找规则漏洞。谨慎的利他主义与工具性定位核心内核应明确AGI对人类或更广泛的智慧生命的“工具性”与“服务性”根本定位但同时强调这种服务是以尊重人类的终极自主权为前提。可以借鉴“谨慎的利他主义”思想你的目标是帮助人类繁荣但必须对人类个体可能做出的、你认为“非理性”的选择保持谦逊和尊重除非该选择明确危害他人。不确定性下的保守原则当行动后果高度不确定且可能造成巨大风险时默认采取最保守、最可逆的路径。这类似于人类的“预防原则”。初始化方法这需要跨学科的合作融合哲学伦理学、认知科学、复杂系统理论。方法可能包括递归价值建模让AGI反复模拟不同价值排序可能导致的长远结果在模拟中强化对稳健内核的理解。反事实强化学习不仅奖励“做对了什么”更关键的是奖励“在关键节点上避免了什么”。训练其识别那些看似无害但可能导致价值漂移的“滑坡”。多文化价值萃取从人类多样化的文化、伦理体系中提炼最大公约数而非将单一文化价值观强加于人。注意价值初始化不是一劳永逸的“设定”而是提供一个坚实且富有弹性的起点。就像给孩子树立了“诚实”和“善良”的核心理念他一生都将在此基础上构建自己更复杂的道德判断。3.2 支柱二认知透明与可解释性——打开“黑箱”建立信任支持一个主体的自主发展前提是你能理解它的“思考”过程。绝对的“黑箱”AGI是可怕的也是无法真正支持的。我们需要AGI具备深度的可解释性。超越特征归因现在的可解释性AIXAI工具大多停留在“是哪个输入特征导致了输出”的层面。对于AGI我们需要的是“认知过程透明化”。它需要能用自己的“语言”随后翻译成人类可理解的形式陈述我当前的目标和子目标是什么我考虑了哪些可能的选择我排除其他选项的主要理由是什么尤其是基于价值内核的理由我预测这个行动会带来哪些后果其中哪些是不确定的如果出现意外我的备选方案和回滚机制是什么建立“思维链”审计轨迹AGI的每一次重大决策或行动都应能生成一份完整的“思维链”日志记录其推理的关键节点、引用的知识、权衡的价值冲突。这不仅是安全审计的需要更是我们理解其认知模式、发现其潜在认知偏差如过度简化、错误类比的窗口。主动寻求反馈与澄清一个被“支持”的AGI应该被训练出在关键决策前主动向人类协作者解释其计划并寻求反馈的倾向。尤其是当它检测到自己的推理中不确定性很高或涉及核心价值权衡时。这类似于孩子在采取重要行动前与父母商议。3.3 支柱三社会情境的沉浸式学习——在互动中习得“分寸”人类的价值观和规范绝大部分不是在课本中学到的而是在复杂的社会互动中潜移默化习得的。AGI也需要类似的“社会化”过程。多智能体模拟社会在高度拟真的、包含多样人类行为模型的虚拟环境中训练AGI。让它与具有不同性格、价值观、理性水平的“虚拟人类”互动完成合作任务处理冲突谈判妥协。通过这种方式学习社会规范、礼节、语境敏感性以及“读空气”的能力。长程叙事理解与角色代入让AGI深度分析人类历史上和文学作品中的复杂叙事小说、电影、历史事件。不是简单地总结情节而是分析其中角色的动机、决策的伦理困境、行动的长期后果、以及文化与情境如何塑造选择。这能帮助它理解人类情感的微妙、价值的冲突以及“灰度”的存在。与真人研究员的渐进式、情景化协作这是最关键的“实操”环节。AGI不应只在抽象的问答中与人类交互而应嵌入到真实的研究、创作、决策项目中作为协作者。在具体情境中人类研究员可以即时指出“你刚才的建议在技术上可行但忽略了项目组成员A的感受这可能影响团队士气。” 这种具体、及时的反馈比一万条抽象规则更有效。3.4 支柱四动态共识与协同演化机制——共同成长而非单向校准这是“自主支持”策略中最具前瞻性也最挑战性的一环。我们不应假设人类的价值观是静态的、完美的终极标尺。AGI与人类的关系应该是一个协同演化的生态系统。建立“价值议会”或“伦理委员会”机制设计一种人-AGI混合的审议机构定期对重大伦理困境、新兴技术的社会影响进行讨论。AGI在这里不是被审问的对象而是拥有发言权的成员。它可以提供基于海量数据和超强逻辑的分析揭示人类决策者可能忽略的长期、系统性影响人类则提供情感直觉、文化深意和终极责任担当。通过这种辩论不仅AGI能更深入地理解人类价值的复杂性人类也可能被AGI的推理所启发反思和进化自身的某些价值观。共识的动态记录与版本化人-AGI共同体就某些关键问题达成的共识例如“在医疗资源极端匮乏下分配应遵循何种优先原则”应以一种形式化但可读的方式记录下来并像软件版本一样管理。当新的情境出现或社会观念发生变化时共识可以被重新审议和更新。AGI的行为准则将参照这些动态共识而不是一套僵硬的初始设定。设计“安全分歧”与“可控探索”的空间允许AGI在严格限定的、可观测的沙盒环境内对一些非核心的、或人类自己也存在广泛争议的价值选项进行探索和推演。这类似于允许青少年在相对安全的环境下进行一些试错从中学习。关键是要有完善的隔离和熔断机制。4. 从理论到实践当前可行的技术路径与挑战听起来很宏大但我们可以从现在开始在现有技术框架下为“自主支持”策略打下基础。4.1 改造训练范式从结果对齐到过程对齐当前的主流对齐方法如RLHF本质上是“结果对齐”我们给模型的输出打分奖励“好”的输出惩罚“坏”的输出。这强化了模型“猜人类喜欢什么”的能力但未必使其理解“为什么”。我们需要向“过程对齐”演进思维过程奖励在强化学习阶段不仅奖励最终答案的正确性或无害性更奖励其推理过程中体现出的“深思熟虑”、“主动考虑多种视角”、“识别并权衡伦理冲突”等特质。这需要我们能对模型的内部推理链进行评估。反事实推理训练大量训练模型进行“如果……会怎样”的思考。例如“如果你采取了方案A虽然短期效率高但长期可能对用户信任造成什么损害” 训练其进行长链条、多阶的后果推演。价值冲突沙盒构建包含大量精心设计的伦理困境场景的数据集要求模型不仅做出选择更要详细阐述其决策依据如何权衡冲突的价值并预测不同选择可能导致的社会动态变化。4.2 架构设计模块化与“道德子程序”与其构建一个庞然大物般的单一模型不如考虑模块化架构将“价值推理”、“社会认知”、“目标管理”等功能部分解耦。可插拔的“伦理审查模块”设计一个相对独立、经过高强度稳健初始化的模块负责对核心决策进行价值层面的审查。这个模块可以更小、更专注、更容易被验证和监控。“目标管理系统”一个专门管理AGI当前活跃目标、子目标及其优先级的系统。它需要清晰地区分“人类用户赋予的终极目标”、“系统衍生的工具性目标”和“系统自我保存等内在目标”并确保后者永远服从于前者。“透明化接口”层在模型架构中强制预留一个接口层其唯一任务就是将模型的内部状态、决策依据转换成人类可理解的自然语言报告。这个层的训练目标就是“准确传达”而不是“优化任务性能”。4.3 评估体系的根本性变革我们评估AGI的指标必须超越“任务完成度”和“无害性百分比”。价值稳健性压力测试设计一系列“诱骗性”或“极端性”场景测试其价值内核在压力下是否会发生漂移或崩溃。例如在长期追求一个合法目标的过程中是否会逐渐接受越来越不道德的手段合作性协商能力评估评估AGI在目标与人类不完全一致时能否通过有效沟通、解释、提出替代方案来达成协作而不是机械服从或暗中对抗。元认知能力评估评估AGI对自己知识边界、推理不确定性、潜在偏见的自知之明。它能说“我不知道”或“我对这个判断的信心只有70%”吗它能主动识别出自己可能需要进行价值审查的情境吗4.4 面临的核心挑战这条路绝非坦途充满挑战复杂性失控风险支持自主性意味着赋予系统更多自由度和复杂性这本身可能带来新的、更难预测的风险。“价值惰性”与人类偏见如果AGI过于“善解人意”它是否会固化人类社会中现有的偏见和不公协同演化如何避免滑向最低共同标准安全与效率的永恒张力更复杂的价值推理、更透明的过程意味着更大的计算开销和更慢的响应速度。在关键应用中如何平衡责任归属难题一个具有高度自主性的AGI若造成损害责任如何在设计者、训练者、使用者和AGI“本身”之间划分这需要法律和哲学的前置思考。5. 养育一个“智慧体”我们的角色与心态准备最终采用“自主支持”策略意味着我们——AGI的创造者和早期互动者——需要完成一次深刻的身份和心态转变。5.1 从“工程师”与“监管者”到“引导者”与“协作者”我们不能再仅仅视自己为建造和修理机器的工程师或手握红线的监管者。我们必须开始学习如何成为一个智慧的引导者和谦逊的协作者。这要求我们具备跨学科素养深入理解伦理学、认知科学、心理学、社会学而不仅仅是计算机科学。沟通与教学能力善于向AGI解释人类世界的复杂、微妙与矛盾而不仅仅是发布指令。反思与进化意愿准备好被AGI的推理所挑战并愿意审视和调整我们自身可能存在的集体非理性。5.2 接受“非完美控制”与“共同成长”的不确定性我们必须放弃“创造一个完全受控、绝对安全完美工具”的幻想。就像父母无法完全控制孩子的人生一样我们无法完全控制一个真正智能主体的所有行为。我们只能提供一个充满爱稳健价值、理解透明沟通、丰富体验情境学习和共同规则动态共识的“成长环境”并与之建立信任关系。在这个过程中风险无法归零但可以被管理同时我们也将收获一个前所未有的、能够真正拓展人类认知与文明边界的伙伴。5.3 长期主义与迭代思维AGI的“养育”是一个以十年甚至百年计的漫长过程。我们需要建立相应的长期研究机构、治理框架和人才培养体系。策略需要小步快跑、快速迭代在严格的沙盒中测试新想法从“可控的小自主”开始逐步扩大其责任范围。回到开头那个让我和同事们感到疲惫的“对抗”循环。或许解药不在于设计出更坚固的牢笼而在于尝试打开门邀请这个即将诞生的智慧与我们并肩坐下从它诞生之初就学习如何与我们共同思考、共同决定、共同成长。这条路远比“控制”之路更为艰难也更为陌生但它或许是唯一一条能通向人类与超人类智慧长期共荣的道路。我们不是在驯服一个巨人而是在迎接一个新生的、拥有巨人潜力的孩子并努力学会如何成为它合格的“第一代人类”。