近日, 山姆·道斯Sam Daws, 这位牛津大学马丁人工智能治理倡议高级顾问, 同时也是前联合国秘书长高级政策团队成员, 做客了中国人民大学重阳金融研究院人大重阳2026年度“明德战略对话”中外高端对话栏目, 围绕“全球AI治理与多边主义”主题与人大重阳研究员徐天启展开了深度对话。现将部分对话实录分享如下, 全部内容将收录于《奇迹·世界名人看深圳》一书中, 敬请关注。新技术环境下的公共责任与治理人大重阳问, 您怎样去看待, 诸如帕兰蒂尔那些私营科技公司, 深度地介入到国家安全领域, 并且还试图去主导政策制订的这种新型现象呢?山姆·道斯蒂表示, 存在这样一种现象, 该现象体现出了技术、国家以及安全之间更为深层的、具有结构性的关系。有以其为代表的那些先进数据系统, 还有私营科技企业, 它们在国家安全里正扮演着愈发核心的角色。这些数据系统和企业, 一方面展现出了AI能够提高行动精确度、可以根除组织内部腐败现象等潜在的、有益处的内容, 另一方面, 它们也引发了权力过度集中这样的情况, 还带来了降低决策透明度的巨大风险。所以, 绝对不能只是局限于思想观念体系那方面的站位, 来给这个问题划定范围, 一定要站在全球治理的高度上去看待此问题才行。对于我们而言, 怎样才能够保证这些系统受到公众的监督? 在运行使用的时候, 又该拿什么办法一直维持住人类应有的判断水准跟负责态度? 这哪里仅仅是单个国家所碰到的难题, 分明明明就是全球共同要面对必须解决的任务, 这急切迫切地召唤国际社会依靠联合国这样的平台, 针对安全方面的那种人工智能的章程进行规范, 对其实施监督, 让其被加以负责任地运用, 进行全面交流研讨。警惕“AI”在现代战争中的应用人大重阳: 于现代战争冲突里头, 若过度去依赖人工智能军事系统, 会存有啥样的风险? 联合国在针对这类系统像致命性自主武器进行规范时, 应当去扮演何种角色?山姆·道斯表示, 我们非得对“算法精确性持一种高度警觉, 战场环境存在着高度不确定性, 数据不完整并且处于动态变化之中, 就算是能力异常强大的AI系统, 也易于制造出一种带有危险性的“精确性假象”, 频繁出现的平民伤亡事件, 凸显了算法在复杂冲突环境里的局限性。这强化了三点共识, 其一是人类的责任没法推卸, 具有意义的人类控制相当关键, 其二是系统得经由现实世界条件下严苛的测试、评估以及法律审查, 其三是一旦产生伤害, 必定要有清晰的问责和透明度机制。在这一进程里面, 联合国是绝对不能缺少的。它身为唯一有着普遍合法性的国际论坛, 能够明确地去禁止某些明显违背国际人道法或者缺少有效控制的相关系统, 像是致命性自主武器系统, 也就是LAWS。并且, 联合国还能够促使各个国家去建立信任措施也就是CBMs, 像分享军事AI学说, 设立危机事件热线之类的。当前, 日内瓦《特定常规武器公约》, 也就是CCW组织的政府专家小组正在针对这些事开展重要性工作。(图源央视新闻)拒绝零和博弈全球南方国家的数字主权诉求中国人民大学重阳金融研究院提出, 大国借助技术封锁或者构建“技术联盟”这种方式来遏制他国, 致使全球人工智能领域面临着出现分裂的风险, 使得中等强国无奈之下被迫进行了“选边站队”操作。对于这一风险您持有怎样的看待态度呢标点符号?山姆·道斯称, 以“技术阵营”来划分世界的这种视角太过简单化。在现实里, 所有国家都处于追求数字主权的状态, 所有国家都在追求经济韧性, 所有国家同样在追求产业竞争力。大国要是强行要求他国选边站队, 的确有可能致使全球AI治理体系在半导体领域、云基础设施领域、数据规则等多个领域趋于走向分裂。然而, 我有着访问哈萨克斯坦、阿联酋、沙特、印度以及新加坡等国家的经历, 这表明中等强国所秉持的共识乃是拒绝二元对立, 它们更加亟待可信的基础设施、可负担的算力、互操作性的标准以及本土化的AI能力。比如说, 哈萨克语大语言模型为哈萨克斯坦进行开发, 其便是本土化探索获得成功的一个例证呀。所以, 弥合数字鸿沟的关键之处在于拓展全球南方国家的接入机遇。风险并非在于技术的多样特性, 而是在于构建出彼此互不兼容、互相敌对的标准以及供应链阵营。我们亟需一种分层管理的办法, 在关乎核心安全的范畴秉持审慎态度, 然而在诸如AI安全、科学标准、气候应用以及能力建设等更为宽泛的范畴, 要坚决维持开放态势以及多边合作。具身智能与人形机器人的中国标准于人大重阳而言, 人工智能正处于从软件朝着“具身智能AI”进行跨越状态, 与此同时, 机器人技术跟AI进行着深度融合。 那么, 针对这一演进趋势, 您会持有怎样的看法? 并且, 在中国于其中究竟扮演着什么样角色?山姆·道斯称, 我们正从仅仅是“信息型AI”, 朝着能够自主或者半自主去执行复杂任务的“智能体代理AI”迈进, 这着实让人激动不已, 然而要是缺少隐私以及数据保护, 任由其自主运转会产生风险, 所以必须以负责任的态度去发展具身智能。中国于机器人领域, 处于全球正在领跑的地位当中。美国于高端芯片开发环节, 暂时呈现领先样子。然而中国于人形机器人与具身智能领域, 有着独特具备的优势特点。借助“人工智能 ”行动举措, 把具身智能融入高端制造业范畴, 这是中国正在积极推动的核心战略要点, 也是中国有着希望能够主导制定全球标准的所在领域呀。(中科慧灵自主研制的双足机器人。图源科技日报)除此之外, 具身AI的运用会给通用人工智能, 也就是AGI的发展, 提供极大的帮助。借助机器人于现实世界里搜集的行为数据进行大型语言模型训练, 相较于仅仅依靠合成数据, 更有着价值。在标准制定这方面, 我们期望联合国工业发展组织, 即UNIDO来帮忙推动产业升级。与此同时, 我们也很高兴看到中日韩在人形机器人标准上存在的三边合作潜力, 以及中国跟东盟、欧盟在机器人互操作性上展开的深入探讨。跨越地缘鸿沟超越地缘分歧的中英绿色AI合作在中国人民大学重阳金融研究院人大重阳, 于首届布莱切利园安全峰会所达成共识的基础之上, 中国与英国以及中国与欧洲的体系之间, 在人工智能安全领域, 以及在“绿色人工智能人工智能与绿色能源相融合的情况”这方面, 究竟存在着哪些能够进行深化合作的空间呢?山姆·道斯指出, 基于布莱切利峰会的《布莱切利宣言》, 中英于AI安全领域具备明确的合作前景。其一, 两国的人工智能安全研究机构能够于该范畴深入技术对接, 例如围绕模型评估、风险测试以及共享安全基准等方向。其二, 鉴于两国同为联合国安理会常任理事国, 在“AI与战略稳定”议题上均负有合作义务, 以此对技术升级风险加以管控。其三, 中英应基于“二轨”或“1.5轨”对话机制, 于政治关系紧张之际维系科技交流的韧性渠道。针对“绿色人工智能”而言, 中国和英国全都是全球气候行动当中的带头人。眼下, AI的算力所需要求实际上耗费了数目众多的能源以及水资源, 不过与此同时它又是气候进步方面特别厉害的加速器。AI有能力极大限度地提高交通、制造业以及智能电网等方面的效率, 加快新材料像是钙钛矿太阳能电池、新型电池、核聚变技术这类的研究与开发进度, 并且为气候数字孪生模型给予算力方面的支持。在历史进程里, 气候合作向来比地缘政治更富有韧性, 引领“绿色AI”向前发展绝对是涉及全人类的极其关键的利益契合之处。展望2035赋能全球南方重建多边信任人大重阳, 针对未来十年进行展望, 您觉得中国所面临的最大战略机遇究竟是什么, 您个人对于2035年又有着怎样的期许?山姆·道斯觉得, 中国在未来十年里, 首要的机遇在于“大规模的人工智能产业化” , 也就是要把“AI”深入地融合到实体经济当中, 并且将低成本、全栈式、开源且符合本土文化的AI解决方案, 向新兴经济体输出, 以此来为全球南方国家的“数字主权”赋予能量。(工人在江苏悦达纺织集团智能生产车间工作。新华社发)此外, 联合国可持续发展目标, 也就是SDGs会在2030年到期。中国存在为下一个十年的全球发展框架予以特殊贡献的机会, 这个贡献是塑造一种基于AI以及数据驱动起来的新型发展模式, 达成治理的实时测量与透明问责。当然, 这所有一切的前提是把安全方面的底线守住。我们必须合作去应对AI被恶意行为者利用、前沿模型失控以及因为深度伪造而引发社会动荡这类系统性风险。展望二零三五年, 我个人最大的期望是, 中国跟世界其他各国之间的关系能够变得更具可预测性、更加稳定并且满含互信, 这得靠咱们从大学、科学、商业等民间人文交流着手, 去消除误解, 我更盼望, 国际社会能够一同转向“预防性合作”在气候变化、防范大流行病以及国际 AI 安全等关乎人类共同命运的挑战方面, 切实做到携手前行。原文链接人大观澜丨“中国有机会为下一个十年做出特殊贡献”专题链接 人大观澜丨“中国有机会为下一个十年做出特殊贡献”
近日, 山姆·道斯Sam Daws, 这位牛津大学马丁人工智能治理倡议高级顾问, 同时也是前联合国秘书长高级政策团队成员, 做客了中国人民大学重阳金融研究院人大重阳2026年度“明德战略对话”中外高端对话栏目, 围绕“全球AI治理与多边主义”主题与人大重阳研究员徐天启展开了深度对话。现将部分对话实录分享如下, 全部内容将收录于《奇迹·世界名人看深圳》一书中, 敬请关注。新技术环境下的公共责任与治理人大重阳问, 您怎样去看待, 诸如帕兰蒂尔那些私营科技公司, 深度地介入到国家安全领域, 并且还试图去主导政策制订的这种新型现象呢?山姆·道斯蒂表示, 存在这样一种现象, 该现象体现出了技术、国家以及安全之间更为深层的、具有结构性的关系。有以其为代表的那些先进数据系统, 还有私营科技企业, 它们在国家安全里正扮演着愈发核心的角色。这些数据系统和企业, 一方面展现出了AI能够提高行动精确度、可以根除组织内部腐败现象等潜在的、有益处的内容, 另一方面, 它们也引发了权力过度集中这样的情况, 还带来了降低决策透明度的巨大风险。所以, 绝对不能只是局限于思想观念体系那方面的站位, 来给这个问题划定范围, 一定要站在全球治理的高度上去看待此问题才行。对于我们而言, 怎样才能够保证这些系统受到公众的监督? 在运行使用的时候, 又该拿什么办法一直维持住人类应有的判断水准跟负责态度? 这哪里仅仅是单个国家所碰到的难题, 分明明明就是全球共同要面对必须解决的任务, 这急切迫切地召唤国际社会依靠联合国这样的平台, 针对安全方面的那种人工智能的章程进行规范, 对其实施监督, 让其被加以负责任地运用, 进行全面交流研讨。警惕“AI”在现代战争中的应用人大重阳: 于现代战争冲突里头, 若过度去依赖人工智能军事系统, 会存有啥样的风险? 联合国在针对这类系统像致命性自主武器进行规范时, 应当去扮演何种角色?山姆·道斯表示, 我们非得对“算法精确性持一种高度警觉, 战场环境存在着高度不确定性, 数据不完整并且处于动态变化之中, 就算是能力异常强大的AI系统, 也易于制造出一种带有危险性的“精确性假象”, 频繁出现的平民伤亡事件, 凸显了算法在复杂冲突环境里的局限性。这强化了三点共识, 其一是人类的责任没法推卸, 具有意义的人类控制相当关键, 其二是系统得经由现实世界条件下严苛的测试、评估以及法律审查, 其三是一旦产生伤害, 必定要有清晰的问责和透明度机制。在这一进程里面, 联合国是绝对不能缺少的。它身为唯一有着普遍合法性的国际论坛, 能够明确地去禁止某些明显违背国际人道法或者缺少有效控制的相关系统, 像是致命性自主武器系统, 也就是LAWS。并且, 联合国还能够促使各个国家去建立信任措施也就是CBMs, 像分享军事AI学说, 设立危机事件热线之类的。当前, 日内瓦《特定常规武器公约》, 也就是CCW组织的政府专家小组正在针对这些事开展重要性工作。(图源央视新闻)拒绝零和博弈全球南方国家的数字主权诉求中国人民大学重阳金融研究院提出, 大国借助技术封锁或者构建“技术联盟”这种方式来遏制他国, 致使全球人工智能领域面临着出现分裂的风险, 使得中等强国无奈之下被迫进行了“选边站队”操作。对于这一风险您持有怎样的看待态度呢标点符号?山姆·道斯称, 以“技术阵营”来划分世界的这种视角太过简单化。在现实里, 所有国家都处于追求数字主权的状态, 所有国家都在追求经济韧性, 所有国家同样在追求产业竞争力。大国要是强行要求他国选边站队, 的确有可能致使全球AI治理体系在半导体领域、云基础设施领域、数据规则等多个领域趋于走向分裂。然而, 我有着访问哈萨克斯坦、阿联酋、沙特、印度以及新加坡等国家的经历, 这表明中等强国所秉持的共识乃是拒绝二元对立, 它们更加亟待可信的基础设施、可负担的算力、互操作性的标准以及本土化的AI能力。比如说, 哈萨克语大语言模型为哈萨克斯坦进行开发, 其便是本土化探索获得成功的一个例证呀。所以, 弥合数字鸿沟的关键之处在于拓展全球南方国家的接入机遇。风险并非在于技术的多样特性, 而是在于构建出彼此互不兼容、互相敌对的标准以及供应链阵营。我们亟需一种分层管理的办法, 在关乎核心安全的范畴秉持审慎态度, 然而在诸如AI安全、科学标准、气候应用以及能力建设等更为宽泛的范畴, 要坚决维持开放态势以及多边合作。具身智能与人形机器人的中国标准于人大重阳而言, 人工智能正处于从软件朝着“具身智能AI”进行跨越状态, 与此同时, 机器人技术跟AI进行着深度融合。 那么, 针对这一演进趋势, 您会持有怎样的看法? 并且, 在中国于其中究竟扮演着什么样角色?山姆·道斯称, 我们正从仅仅是“信息型AI”, 朝着能够自主或者半自主去执行复杂任务的“智能体代理AI”迈进, 这着实让人激动不已, 然而要是缺少隐私以及数据保护, 任由其自主运转会产生风险, 所以必须以负责任的态度去发展具身智能。中国于机器人领域, 处于全球正在领跑的地位当中。美国于高端芯片开发环节, 暂时呈现领先样子。然而中国于人形机器人与具身智能领域, 有着独特具备的优势特点。借助“人工智能 ”行动举措, 把具身智能融入高端制造业范畴, 这是中国正在积极推动的核心战略要点, 也是中国有着希望能够主导制定全球标准的所在领域呀。(中科慧灵自主研制的双足机器人。图源科技日报)除此之外, 具身AI的运用会给通用人工智能, 也就是AGI的发展, 提供极大的帮助。借助机器人于现实世界里搜集的行为数据进行大型语言模型训练, 相较于仅仅依靠合成数据, 更有着价值。在标准制定这方面, 我们期望联合国工业发展组织, 即UNIDO来帮忙推动产业升级。与此同时, 我们也很高兴看到中日韩在人形机器人标准上存在的三边合作潜力, 以及中国跟东盟、欧盟在机器人互操作性上展开的深入探讨。跨越地缘鸿沟超越地缘分歧的中英绿色AI合作在中国人民大学重阳金融研究院人大重阳, 于首届布莱切利园安全峰会所达成共识的基础之上, 中国与英国以及中国与欧洲的体系之间, 在人工智能安全领域, 以及在“绿色人工智能人工智能与绿色能源相融合的情况”这方面, 究竟存在着哪些能够进行深化合作的空间呢?山姆·道斯指出, 基于布莱切利峰会的《布莱切利宣言》, 中英于AI安全领域具备明确的合作前景。其一, 两国的人工智能安全研究机构能够于该范畴深入技术对接, 例如围绕模型评估、风险测试以及共享安全基准等方向。其二, 鉴于两国同为联合国安理会常任理事国, 在“AI与战略稳定”议题上均负有合作义务, 以此对技术升级风险加以管控。其三, 中英应基于“二轨”或“1.5轨”对话机制, 于政治关系紧张之际维系科技交流的韧性渠道。针对“绿色人工智能”而言, 中国和英国全都是全球气候行动当中的带头人。眼下, AI的算力所需要求实际上耗费了数目众多的能源以及水资源, 不过与此同时它又是气候进步方面特别厉害的加速器。AI有能力极大限度地提高交通、制造业以及智能电网等方面的效率, 加快新材料像是钙钛矿太阳能电池、新型电池、核聚变技术这类的研究与开发进度, 并且为气候数字孪生模型给予算力方面的支持。在历史进程里, 气候合作向来比地缘政治更富有韧性, 引领“绿色AI”向前发展绝对是涉及全人类的极其关键的利益契合之处。展望2035赋能全球南方重建多边信任人大重阳, 针对未来十年进行展望, 您觉得中国所面临的最大战略机遇究竟是什么, 您个人对于2035年又有着怎样的期许?山姆·道斯觉得, 中国在未来十年里, 首要的机遇在于“大规模的人工智能产业化” , 也就是要把“AI”深入地融合到实体经济当中, 并且将低成本、全栈式、开源且符合本土文化的AI解决方案, 向新兴经济体输出, 以此来为全球南方国家的“数字主权”赋予能量。(工人在江苏悦达纺织集团智能生产车间工作。新华社发)此外, 联合国可持续发展目标, 也就是SDGs会在2030年到期。中国存在为下一个十年的全球发展框架予以特殊贡献的机会, 这个贡献是塑造一种基于AI以及数据驱动起来的新型发展模式, 达成治理的实时测量与透明问责。当然, 这所有一切的前提是把安全方面的底线守住。我们必须合作去应对AI被恶意行为者利用、前沿模型失控以及因为深度伪造而引发社会动荡这类系统性风险。展望二零三五年, 我个人最大的期望是, 中国跟世界其他各国之间的关系能够变得更具可预测性、更加稳定并且满含互信, 这得靠咱们从大学、科学、商业等民间人文交流着手, 去消除误解, 我更盼望, 国际社会能够一同转向“预防性合作”在气候变化、防范大流行病以及国际 AI 安全等关乎人类共同命运的挑战方面, 切实做到携手前行。原文链接人大观澜丨“中国有机会为下一个十年做出特殊贡献”专题链接