“相比写Python,我的工程师更愿意造Agent”,黄仁勋最新26分钟对话:未来公司将建立在Harness之上
整理 | 苏宓出品 | CSDNIDCSDNnews“当你需要增强自己的智能时别指望给第三方打个电话解决而应该在公司内部完成。”这是黄仁勋最近抛出的一个新观点。在与 LangChain CEO、联合创始人 Harrison Chase 的一场对话中这位英伟达 CEO 几乎没有聊 GPU也没有谈下一代芯片而是把整个话题都聚焦到了 Agent 上。在他看来大模型正逐渐成为基础设施真正拉开企业差距的将是围绕模型构建的 Agent 系统以及企业沉淀其中的专有知识和工作流。未来公司竞争的不再是谁拥有更大的模型而是谁拥有更强的”超级智能体”。这场时长 26 分钟的对话信息密度极高。黄仁勋谈到了为什么开放生态比封闭生态更重要、开源模型为何正在逼近前沿模型、企业为什么应该从最强模型开始再逐步打造自己的专业化智能体也分享了他对未来 AI 软件形态的判断。其中包括开源权重模型已接近前沿模型性能但成本只有后者的十分之一我总是先使用最前沿的模型因为它能告诉我能力的天花板然后再打造属于自己的专业化智能体今天的公司建立在业务流程之上未来将建立在 Harness 之上当企业需要增强自己的智能时核心能力不能外包而要掌握在自己手中相比写 Python英伟达工程师如今更愿意构建 Agent。完整视频地址https://www.youtube.com/watch?vYy3JH6dDugc英伟达为什么要投资开放的 Agent 生态系统Harrison Chase很高兴能在这里和你交流。在过去一年特别是最近几个月里AI 和智能体Agent领域取得了巨大进展。我们看到了性能的显著提升与此同时这些模型和系统的开放性、可控性以及信任度也变得越来越重要。我想先请教一下为什么 NVIDIA 正在大力投资开放的智能体生态系统和技术栈黄仁勋首先我要祝贺你们所做的一切工作。事实上回顾过去六个月尽管我们已经在 AI 领域耕耘了 15 年但最近这半年改变了一切。大语言模型的进步、算力规模的扩展、全能模型Omni-models以及多模态技术的突破都令人叹为观止。最重要的是AI 终于变得实用了。当 AI 变得实用时全球的每一家企业都想参与其中而核心问题在于如何实现。这就是 LangChain 发挥作用的地方。此前你坚定认为大语言模型是核心驱动力但要将其转化为实用的产品必须在其周围构建一套现在被称为 Harness 的系统。在早期我们就利用 LangChain 将大语言模型转化为可调用的 API构建我们的 RAG检索增强生成系统。通过这些一步步的积累演变成了今天的智能体系统。过去六个月真正的重大突破是这些基于知识、能够使用工具进行搜索、具备记忆管理能力、拥有安全护栏并能持续迭代直到完成任务的智能体系统。NVIDIA 致力于构建开放系统已有多年。因为 AI 是一项基础技术只有应用到各种不同的场景中才能发挥价值。除了语言和认知智能我们还设想了一个由科学家、数字生物学家、设计者、机器人专家、研究员以及企业 IT 人员共同使用的世界大家都可以利用智能体 AI 来解决特定领域的问题。在这些场景中有些是因为我们拥有不为外界所知的专业领域知识必须将其融入 AI 中有些是因为我们相信 AI 会通过“飞轮效应”变得更强大——我们使用它它变得更聪明、更实用从而引导我们更多地使用它。就像人类一样AI 也在不断学习。虽然 Anthropic、OpenAI 和 Google 的工作非常出色但人们还想要构建专业化的、特定领域的以及专有的 AI。我们希望能够赋能这样一个世界的实现。Harrison Chase关于专业化这一点你认为最佳的实现路径是什么是纯粹依靠模型本身还是依靠你提到的 Harness 系统亦或是外部的上下文信息黄仁勋专业化首先需要足够强大的基础智能。这就是我们开发 Nemotron 的原因。Harrison我也非常感谢你能成为 Nemotron 联盟的创始成员。我们开发的 Nemotron-3-Ultra 性能非常出色。但是只有当你用 LangChain 框架和 Harness 系统将 Nemotron-3-Ultra 包裹起来使其能够锚定在特定领域的专业信息上时它才真正成为一个惊人的模型。一个聪明的人只有在能够获取关键信息时才最有用。我们甚至可以在 LangChain 的 Harness 系统中对模型进行后期训练让模型更擅长利用周围的系统组件。这个时机已经成熟了我们需要一个开放的 Harness 系统让大家可以自行构建、应用并持续改进。开源权重模型达到了前沿模型的性能Harrison Chase我非常赞同关于“模型足够强大”的观点。我认为这个门槛在一年前由前沿模型跨越而大约六个月前开源权重模型也跨越了这一门槛。我们在 DeepAgents 中对 Nemotron-3-Ultra 做了很多工作其中一个关键点就是调整 Harness 系统以适配该模型。我们发现不同的模型需要不同的提示词和工具调用方式。通过这种优化Nemotron-3-Ultra 在我们的内部基准测试中达到了 86% 的准确率。作为对比Claude Opus 是 87%而 DeepSeek 和 MiniMax 的一些模型大约在 82% 到 83% 之间。这说明最新的开源权重模型已经达到了前沿性能。更重要的一点是它的成本只有 Opus 的十分之一。开源权重模型正在性能与成本之间取得极佳的平衡。我很想听听你对“成本”如何改变开发者决策的看法。黄仁勋降低成本的优势体现在几个方面。首先当智能变得廉价时人们的使用频率就会大幅增加。当你拥有一个成本极低的智能体时你就可以在更大的搜索空间内进行迭代从而得到更好的答案。Nemotron 之所以具有成本效益是因为它非常快计算效率极高。就像人一样思维敏捷的人可以探索更多的可能性。Nemotron-3-Ultra 在 LangChain 框架和 DeepAgents 中的表现证明极快的推理速度让它能迅速迭代并找到更优解。看到我们能创造出一个接近前沿水平的模型并通过优化周围的环境使其发挥出前沿性能我感到非常自豪。对于人类来说也是如此。我们雇佣最聪明的人但除此之外我们还为他们提供工具、信息并创造合适的环境让他们发挥出最大的潜力。所以我们需要调整的是整个环境而不仅仅是模型。“先用上前沿模型看看模型潜力的天花板”Harrison Chase“更便宜、更快的智能会带来更多使用”这一点非常正确。即使是我这样自认为紧跟 AI 潮流的人之前也低估了市场对智能和 Token 的海量需求。随着模型变得又快又便宜我们该如何看待“前沿模型”的地位我们是应该始终转向开源模型还是两者各有千秋黄仁勋模型正在持续改进Scaling Laws 肯定会继续发挥作用。模型的外壳Harness也在不断优化处理记忆的技术——无论是工作记忆还是长期记忆——都在以惊人的速度进步。此外还有压缩技术以及检索增强生成RAG和知识图谱领域的各种突破。这些前沿模型的 API 中正在融入大量令人赞叹的进步。我的逻辑是我总是从前沿模型开始我的所有工作。原因很简单因为前沿模型非常实用它让我知道潜力的天花板在哪里。虽然成本稍高但它能让我极快地完成工作。然而随着时间的推移我发现我需要为它们添加子智能体将那些在特定技能上表现卓越的“超级智能体”连接起来。在 NVIDIA 内部我们面临着许多极其困难的优化问题涉及供应链、芯片设计优化等。这些优化问题非常复杂你不能只指望一个通用 AI 就能算出一个完美答案。因此我们创建了“超级子智能体”。这些智能体是利用 LangChain 的 DeepAgents 框架内置 Nemotron-3 模型构建的。我们还会将它们连接到专门的工具上让它们专精于某一项任务。这个超级智能体不需要帮我预订差旅它唯一的任务就是优化我们的供应链。在这种情况下我确实需要 LangChain需要 Nemotron-3-Ultra并将其与大量专有的知识和技能相连接。我有一支专门的团队负责不断精炼这些系统。我认为这定义了一家公司。公司本质上就是由一堆这类超级专有的、极其重要的工作流组成的集合。现在我们可以通过 LangChain、DeepAgents 和 Nemotron-3 来实现这一点它赋予了企业所需的全部控制权不仅高效还能调用各种强大的工具。这就是未来。Harrison Chase如果企业效仿你的做法——先从前沿模型开始然后再进行专业化你有什么建议吗他们应该在什么时候考虑专业化有哪些触发信号是值得关注的黄仁勋只要模型表现“足够好”了就可以开始。我会先从 Claude、Code 和 Codex 等模型开始尽可能久地使用它们。事实上很多东西你可能永远不需要替换因为它们自身也在不断进步其能力的提升速度是极其惊人的。我认为在未来AI 的存在方式就像今天的公司成员一样。我们聘用员工是因为他们的领域专业性以及他们在公司内部对工作流程的精炼和终身学习积累这些价值是无可替代的。但同时我们也会聘请顾问、购买外部工具授权、将工作外包给其他人。AI 的未来也是如此。我们会继续大量使用前沿模型但同时也会利用 LangChain 和 Nemotron-3-Ultra 创建专有的、专业化的超级智能体而这些智能体可以说就是企业的“皇冠上的明珠”。Harrison Chase就像聘请外部顾问一样你必须让他们快速熟悉你的组织提供背景信息告诉他们公司是如何运作的并赋予他们访问公司内部数据的权限。我们观察到当企业开始采用 AI 时必须围绕它们构建一系列系统以确保这些智能体系统在整体上是可信、安全且具备妥善治理的。黄仁勋没错。我想补充一点今天的多数公司是建立在“业务流程”之上的而未来的公司将建立在 Harness 之上。LangChain 将成为创建公司“操作系统”的工具。每个人都会使用 LangChain 来创建他们专业化的 Harness这代表了过去的工作流。而工作流中的这些外壳将变得自主、智能化且更加高效。要增强自家的智能时别指望给第三方打个电话就能解决Harrison Chase 我们也看到系统中包含了外壳Harness、模型以及周围的所有上下文信息所有这些都可以在不同时间点进行优化。我们与 Nemotron-3 合作的成果就是一个很好的例子证明了围绕外壳进行优化如更改提示词、更换工具能带来极高的投资回报率。此外我们也非常期待尝试对 Nemotron 进行后期训练。虽然这需要更多时间但它能显著提升整个系统能力的上限。黄仁勋这太棒了这正是重大突破所在。你描述的未来是一旦外壳构建完成并开始工作成为业务流程中成功的一部分后下一个问题就是如何让它变得更好。你当然可以继续优化提供给它的信息调整外壳参数但现在你还可以直接在外部框架内改进 AI 模型本身如 Nemotron-3-Ultra。这是一种前所未有的能力我对此感到非常兴奋。Harrison Chase这将结合企业特有的业务流程真正启动这个飞轮。我们在与企业交流时听到的一个共同需求是系统必须构建在开放生态系统之上。企业将自己的知识和流程投入其中拥有完全的控制权对他们来说至关重要。你能谈谈开放技术栈Open Stacks是如何进一步赋能企业应用 AI 的吗黄仁勋每家公司从根本上说都是建立在特定领域或某些专业知识产权IP之上的。我们之所以称之为“知识产权”是因为它的核心是“智能”。每家公司都建立在某种专业化的智能基础之上。NVIDIA 在某些领域很专业我们并不擅长所有事情但我们在某一件事上做得非常出色。这种专业化智能定义了你是谁。你不可能不去控制它、改进它、让它变得更好。对我来说将这种核心智能“外包”出去是毫无道理的无论对于个人、公司还是国家都是如此。当然世界上存在通用智能也存在我们都会做的通用事务。例如软件编程其实就是一种通用技能大家都会用 Python 或 C。虽然应用场景不同但编程技能本身是通用的。写作也是一种通用技能。但这些只是基础技能我们会将这些基础应用到我们的专业领域智能中。这就是 LangChain 和 Nemotron 的用武之地。我相信社会的基石将是这些通用的基础模型它们在云端随处可用。但在那个平台之上我们必须构建自己的专业化能力这就需要开放工具。当你需要增强自己的智能时你不能指望给第三方打个电话解决你需要就在公司内部完成。所以未来不是二选一而是一个完全互补的愿景。我们正在做的就是确保自动化智能能够集成到我们工作的方方面面。Harrison Chase完全同意。不过要让这种集成顺利运行依然具有挑战性。所以我们今天发布了一个蓝图通过 DeepAgents 和 NIMNVIDIA 推理微服务来实现。这将允许企业在安全、开放的 NIM 运行环境中运行内置 Nemotron-3-Ultra 的 DeepAgents并从中获益。黄仁勋这意义重大。它能让企业更轻松地启动和运行。它将构建个人、领域特定、专有超级智能体所需的所有关键要素——技术、组件、工具、外壳以及蓝图示例——全部整合在一起交给你。AI 时代不能给员工所有的访问权限Harrison Chase你们是如何看待“蓝图Blueprints”的你们有很多蓝图我个人认为今天发布的这个是最好的。你们为什么要大力投资这些蓝图黄仁勋因为目前这些工具依然很深奥涉及的环节太多。构建智能体系统或 AI 绝非易事。它涉及大语言模型、调用的工具、需要处理的知识图谱、记忆系统、护栏系统、微调系统以及你刚才提到的针对外壳的后期训练技术。当然还有外壳本身以及运行环境Runtime。当开发完成后你依然需要运行环境必须将其放在“沙箱”中以确保安全和隐私并由 IT 部门进行访问控制。Harrison Chase你认为在企业内部运行环境Runtime最难的部分是与之配套的安全机制吗黄仁勋如果不解决安全和访问控制问题就根本无法部署。这就像在公司里入职一名新员工如果你不为他们办理入职、不设定访问权限他们就无法开展工作。我们不会给每个员工访问所有文件和网络的权限。我们会根据每位员工的职位、职责以及他们所需的资源赋予相应的工具访问权比如笔记本电脑、设计工具、编程工具等。我们还会为他们提供网络访问权限、信息访问权限将他们与其他智能体及同事连接起来并提供一份技能文件。本质上我们会给他们一份文档说明他们的使命以及之前的做法然后让他们尝试做得比以前更好。所以从很多方面来看我们正在为 AI 创建一套类似于 HR 的系统让 IT 组织和公司内部的所有不同业务部门能够在公司内部构建、改进和部署这些智能体。黄仁勋相比写 Python 代码英伟达工程师更喜欢构建智能体Harrison Chase这是一个更具哲学意味的问题。很多人在谈论这些智能体时会过度拟人化将它们引入人类系统。但智能体毕竟不是人类它们在某些方面优于人类但在其他方面却与人类迥异甚至不如人类擅长。你认为对这些智能体进行拟人化的合适程度应该是怎样的黄仁勋智能体本质上是电子而非原子。它不是生物没有意识也不是觉醒的生命。它是一个工具就像在家里四处走动、帮忙打扫卫生的吸尘器在做一些我以前必须亲自做的事情。现在我们还有自动割草机。你可以想象一百多年前第一台洗碗机出现时的场景它能自动洗碗当时的人们一定觉得很神奇。我们称之为“洗碗机”这个称呼听起来有点像人。有趣的是我的第一份工作就是洗碗工。所以我们迟早会习惯的。我认为目前人们倾向于赋予它过多的拟人属性但它本质上只是软件和计算机。我们很清楚它是如何运作的因为我们围绕它构建了外壳系统Harnesses。它的性能一直在不断提升如果我们不了解其运作原理又该如何不断改进或修复它呢显然我们完全掌握这些系统的运作机制我们也应该保持这种认知。与此同时我们发现使用 AI 越多反而需要雇佣更多的人。原因在于这些智能体系统带来了新的技能需求。现在我们有大量的软件工程师在构建智能体他们以前是写代码的现在则是在构建智能体。如果你问我们公司的情况其实我的软件工程师们都更愿意构建智能体而不是去写 Python 代码。写代码就像打字而现在他们可以减少打字成为系统工程师去构建和创造那些非常酷的自动化系统。他们在创建评估系统、基准测试和护栏系统。将 AI 引入现实世界的工作量是巨大的这创造了大量的工作岗位我的软件工程师们非常热爱这项工作。Harrison Chase你提到了评估系统Evals这是在企业内部解锁智能体大规模使用的关键。你需要了解它的表现而量化其好坏的最好方式通常是由企业内部的领域专家来完成。他们可以提供反馈并与这些系统协作将工作中单调乏味的部分自动化从而把精力花在真正具有智力挑战和创造性的部分。黄仁勋没错。无论你是医生、设计师还是软件工程师你都在创建一个智能体。你把那些琐碎的工作剥离出来交给智能体处理。与此同时我们都在尝试提升智能体的能力让它们能与我们协作去完成以前无法完成的事情。这需要想象力、创造力以及大量的技术支持。Harrison Chase这个观点非常精辟。目前智能体最成功的应用是为我们提供更多的杠杆去做更多的事情。但很多人的思路还是停留在“我们以前是怎么做的能否将其自动化”。我认为未来的重大突破将在于“以前做不到、但现在可以做到的事情”。黄仁勋没错。雄心壮志非常重要100% 的雄心、能动性Agency是核心。面向未来Harrison Chase在结束交流前针对如何推动这一未来的实现你认为目前的智能体技术栈Agentic Stack还缺失哪些环节黄仁勋我们今天宣布了一项重大的合作。我们正在提供基础的构建模块。这些是构建“超级智能体Super Agents”的核心要素。我所说的超级智能体是指那些特定于领域的、完全属于你的智能体。你可以亲自构建、改进并随着时间的推移不断精炼它们。你可以赋予它们访问专有信息和知识的权限这些信息对你来说可能是极度隐私的。由此产生的超级智能体将能完成你难以想象的任务而且表现会极其出色。我们已经创建了所有关键部分世界级的语言模型、LangChain DeepAgents 框架该框架已针对 Nemotron-3-Ultra 的全潜力进行了优化、帮助大家快速上手的蓝图以及确保系统安全的 NIM 运行环境和与之集成的加速技术栈。全球的每家公司、每个开发者现在都能创建这些超级智能体并将它们部署在任何地方——云端、本地。我的一位好朋友刚在 DGX Spark 上构建了一个系统。现在你可以在你的笔记本电脑旁通过 DGX Spark 运行这些智能体也可以在 DGX Station 上运行。如果你愿意甚至可以在公司内部构建自己的超级计算机或在云端运行。现在这些自动化能力已经可以随处构建所有拼图都已齐备。没有任何理由不去拥抱它。Harrison Chase: 这是一个完美的结尾。你的话让我备受鼓舞这是一场精彩的励志演讲。我现在就打算去构建一些智能体。谢谢 Jensen 的参与。黄仁勋祝贺你们干得漂亮。为你们感到骄傲。