AI时代的信任分裂_龍德明宇
AI时代的信任分裂作者龍德明宇昨天和一个做B2B销售的朋友聊天他说了一句让我愣住的话「现在和客户沟通我不确定对面是人是AI。」不是开玩笑。越来越多的企业用AI做初步筛选、需求分析、甚至报价谈判。你以为是人在和你谈其实是对面的AI在收集信息、生成回复真正的人可能在十分钟后才看一眼。这不是技术问题这是信任问题。而信任在AI时代正在分裂为三种完全不同的东西人机信任、人人信任、机机信任。它们遵循完全不同的逻辑混在一起谈就是鸡同鸭讲。一、人机信任一个伪命题我们先说最反直觉的严格意义上你不应该「信任」AI。信任是什么信任是你相信对方会为了你的利益行事即使他有背叛的能力。信任的核心不是「可靠」而是「可背叛但不背叛」。你信任朋友是因为他有能力骗你但他选择不骗。你信任伴侣是因为她有能力背叛但她选择忠诚。信任的前提是自由意志和道德选择的可能性。哲学家Annette Baier早在1986年就区分了信任与「单纯依赖」信任一旦丧失会让人感到背叛而依赖不会。当然这个立场在哲学界也有争议但它为理解AI时代的信任提供了一个有用的起点。AI没有这个。用负主体性理论的话说AI是纯粹的无意图系统。它给你一个正确答案不是因为它「选择」对你诚实而是因为它在统计上生成概率最高的输出。这意味着我们和AI的关系本质上是负主体性依赖而不是信任。它不能背叛因为它没有意图只有计算。但人类的大脑有拟人化天性容易对高拟真的AI产生信任错觉这正是危险所在。所以我们说「信任AI」其实是在说「依赖AI的统计可靠性」。这和信任是两回事。危险在于当我们把对AI的「依赖」误称为「信任」我们会放松警惕。我们会把真正需要信任判断的事情交给AI比如医疗诊断、投资建议、甚至人际关系决策然后惊讶地发现AI会出错而且出错时没有任何道德责任感。人机关系的正确姿势不是信任而是校准。你要清楚AI能做什么、不能做什么在它擅长的领域依赖它在它不擅长的领域保持警惕。这不是信任这是工具使用的理性。二、人人信任AI时代的稀缺资源如果人机之间没有真正的信任那人和人之间呢答案是AI让信任变得更稀缺也因此更珍贵。AI正在做两件事第一AI让人更容易伪装。深度伪造、AI生成的「真诚」回复、自动化的情感表达这些技术让「看起来可信」变得极其容易。你收到的那条温暖的朋友圈可能是AI帮你优化的文案你看到的那段感人视频可能是AI生成的虚构场景。当伪造的成本趋近于零「看起来可信」就不再是可信的信号。第二AI让验证变得更容易。区块链可以验证信息的注册时间与完整性AI可以检测伪造内容数字签名可以验证身份。技术也在让「证明可信」变得更容易。这两种力量在拉扯伪造更容易 vs 验证也更容易。最终的结果是什么真正的人际信任会向「高成本信号」集中。什么意思当低成本信号文案、视频、照片都被AI污染人们会转向高成本信号来判断可信度面对面的时间投入、长期一致的言行、在模糊情境中的道德选择、无法被AI模拟的「在场」。经济学和生物学中早有信号理论解释这一逻辑可信的信号必须有成本就像孔雀开屏只有真正健康的个体才负担得起这种代谢代价。Spence和Zahavi在1970年代就论证了这一点。这可能就是为什么线下生意在AI时代反而更有价值不只是因为线下有护城河更因为线下是建立真实人际信任最不可替代的场景。AI时代的信任逻辑你越是AI无法模拟的越有价值。你的身体在场、你的时间投入、你在模糊情境中的判断、你承担责任的意愿这些是AI无法提供的也因此成为信任的真正基础。三、机机信任一个全新的物种现在说最陌生的Agent和Agent之间的「信任」。这其实不是信任但值得单独说因为它正在重塑商业。两个AI Agent之间没有信任因为它们都没有意图但它们可以建立基于交易历史的协调机制。A Agent过去100次给B Agent提供数据准确率98%那A就「依赖」B。这不是信任这是统计上的可靠性评估。这件事已经不只是想象谷歌的Agent-to-Agent协议、业界正在推动的「Know Your Agent」信誉框架已经在让这种机制成为基础设施。但这个机制可以支撑复杂的商业协作。想象一下你的AI采购Agent和供应商的AI销售Agent自动谈判、签约、执行。它们之间没有「信任」但有基于历史的「可靠性评分」。这意味着什么Agent-Agent的「信任」是负主体性的即AI作为无意图系统的存在状态纯粹的统计、优化、无意图。它高效、可扩展但完全没有道德维度。如果Agent出错没有道德意义上的「背叛」只有技术意义上的「故障」。尽管功能性欺骗仍是真实风险它恰恰印证了黑箱问题的严重性。这种「信任」正在创造新的商业模式自动化的供应链、智能合约、Agent市场。它不需要道德只需要可靠性。但它也带来新的风险当Agent之间的协作越来越复杂人类越来越难理解它们在做什么。当两个Agent用人类无法理解的高维统计逻辑达成交易时人类不仅失去了道德裁判权也失去了技术控制权。这种机机信任可能演变成人类社会无法穿透的次级自动化生态。Agent-Agent的「信任」是黑箱的因为它建立在人类无法直觉理解的高维统计之上。结语信任的三种形态三种逻辑AI时代信任分裂为三种东西人机信任不是信任是依赖。要校准不要托付。人人信任基于高成本信号在场、时间、判断、责任。AI让它更稀缺也更珍贵。机机信任不是信任是统计协调。高效但无道德维度需要人类监督。混淆这三种信任是最大的认知陷阱。把AI当朋友「信任」你会失望。把人当AI「依赖」你会失去真正的关系。把Agent协作当「信任网络」你会忽视其中的黑箱风险。AI时代的智慧是分清这三种信任把它们放在该放的位置。你的AI工具用它但不要信任它。你的朋友信任他因为他有能力背叛但选择不背叛。你的Agent系统依赖它但保持监督。这不是技术问题这是存在论问题在一个AI可以模拟越来越多事物的时代什么是真实的答案可能是那些无法被模拟的你的在场、你的选择、你的责任。本文基于负主体性理论框架探讨AI时代世界观里的信任问题。