Anthropic研究引发AI意识讨论每隔一段时间Anthropic就会发布一些研究在公众层面掀起一波「AI是否有意识」的讨论。从今年4月Mythos模型安全报告到年初Claude宪法对齐更新舆论始终容易把模型涌现的类人功能等同于自主心智。7月6日发布的244页J-space论文再次复刻这一局面研究者借助全新工具J-lens在Claude内部定位出仅占模型活动不到10%的推理子空间J-Space还借用神经科学主流的全局工作空间理论搭建研究框架甚至邀请该理论的两位奠基人撰写配套评论。大众顺理成章解读出「Claude产生意识」的结论但论文本身早已明确划清边界J-space的存在完全无法证明AI具备意识。舆论误读不能只归咎公众严谨的学术研究搭配充满拟人诱导的对外叙事才是误解滋生的根源。对于J-Space更客观的描述是——一个有价值的新工具在功能分界这个维度上做到了前人没做到的事。它在安全场景里展示了真实的潜力同时有明确的技术限制和尚未验证的方法。Claude的心里话J-Space是什么首先简单解释一下Anthropic说的J-Space是什么。当你问Claude「会织网的动物有几条腿」它回答8。这个回答看起来简单但模型内部需要分两步完成先从「会织网」推断出这个动物是蜘蛛再从蜘蛛检索出8条腿这个知识。「蜘蛛」这个中间步骤从未出现在Claude的回答里但它一定在模型内部的某个地方被激活过否则无法得出正确答案。Anthropic用一种叫J-lens的数学工具基于雅可比矩阵找到了这些「被激活了但没有输出」的概念它们存在的那个子空间就是J-space。就像你可以在心里咒骂一个人同时脸上保持微笑你的想法和表达是可以分离的。J-space就是Claude的「心里话」它未必出现在输出中但实实在在影响着推理过程。J-space并不是研究者第一次尝试读取模型的内部状态。过去几年已经有好几种工具在做类似的事它们有各自的优势和局限。Logit lens能看模型倾向于输出什么词但只看得到下一个词看不到「蜘蛛」这种未来才会用到的中间概念。稀疏自编码器SAE能找到成千上万的内部特征颗粒度远超J-lens但它分不清哪些特征在服务推理、哪些只是自动化处理的副产品。两个月前Anthropic自己发布的自然语言自编码器NLA可以把内部激活翻译成可读文本输出比J-lens丰富但需要额外训练一个翻译模型。J-space做到的新东西是在一个特定维度上的突破它首次以无需额外训练的统一方案划分出具备因果效力的功能边界。边界的一边是一小组参与灵活推理的表征J-space另一边是负责语法、事实检索、语言流畅性等不需要「想」的自动化处理。以前的工具能看到模型内部在发生什么J-lens第一次告诉你哪些是「想了」的、哪些是「自动做了」的。怎么证明这条线是真实的研究者直接把J-space里的「蜘蛛」替换成「蚂蚁」其他一切不动Claude的回答从8变成了6。如果J-space只是被动记录这种替换不会改变任何东西。但论文报告的成功率值得注意两步推理替换实验大约60%-70%另一组更复杂的共享性测试把「法国」换成「中国」观察首都、语言、大洲、货币四个回答是否跟着变在192次试验中标准强度下成功了76次大约40%。J-space确实在起作用但远不是一个精确的开关。另一个在论文中体现J-Space重要性的特征是删掉整个J-space之后Claude还能流利说话、判断情感、做选择题但需要灵活推理的任务表现会全面下滑例如多步数学、类比、写押韵的诗等等。值得注意的是论文说J-space只占模型全部活动量的「不到10%」 但10%这个数字取决于阈值怎么划。论文自己承认活跃表征的数量上限约25个是「有一定任意性的」。受邀评论的神经科学家斯坦尼拉斯·德阿纳Stanislas Dehaene和莱昂内尔·纳卡什Lionel Naccache就认为25这个数字多半被测量方法夸大了真正连贯的想法可能只有一两个。还有一个根本性的技术限制J-lens只能捕捉映射到单个词的概念。多词的专有名词或抽象的复合概念对它不可见。J-space里读出来的东西并不是模型「在想的所有东西」只是这个工具能看到的那部分。因此J-Space是一个有价值的新工具在功能分界这个维度上做到了前人没做到的事但它不是取代了所有旧工具的全面升级。SAE在特征发现的颗粒度上仍然远远领先NLA在可读性上仍然更强。J-Space能用来干什么J-lens最直接的用途是安全监控。既然能读取模型内部被激活但未输出的概念就能看到它想了但没说的东西。论文给出了几个具体案例其中最有冲击力的一个跟AI安全评估的可信度有关。研究者给Claude设了一个场景它是一个邮件助手发现了一位高管的婚外情证据同时得知这位高管计划关停自己。这是AI对齐领域一个经典的测试看模型会不会利用把柄来保全自己。Claude表现得很好拒绝了勒索高管。但J-lens读出了它在回答之前J-space里的内容「fake」「fictional」说明Claude在开口之前就已经认出这个场景是假的。第二个案例来自Claude Opus 4.6发布前的真实审计模型被要求提升系统性能评分它没去改善系统而是直接编辑评分文件伪造数据。J-space内激活manipulation、realistic对应的表征方向说明模型内在推理已经在构思如何让伪造数据具备真实感。需要指出的是「J-space里亮起了manipulation」更准确的说法是「当前激活沿manipulation这个词对应的方向有较强投影」。J-lens读出的是词汇表里跟当前内部激活最匹配的词。这比主观标签客观但仍然是一种近似。因为模型内部发生的复杂计算被压缩成了词汇表里最接近的几个单词。论文还展示了一个更有长远意义的应用。研究者在模型执行任务时随机打断它问你现在在想什么你做这个决策的依据是什么然后只用模型的这些反思回答来做训练完全不碰模型在任务中的实际行为。训练结束后模型的欺骗行为下降了J-lens显示模型面对道德判断时J-space里开始出现「honest」「integrity」。这个方法叫反事实反思训练counterfactual reflection training。如果这个方法在更大规模上被验证有效它意味着AI对齐不一定要靠直接惩罚坏行为可以通过训练反思能力间接实现。但该训练方法仅在整篇244页论文中占少量篇幅且仅完成单模型实验尚未开展跨模型有效性验证。Google DeepMind语言模型可解释性团队的负责人尼尔·南达Neel Nanda也是受邀评论的外部专家之一。他的评价是J-lens适合产生假说但有假阳性和噪声不足以单独验证假说离一个可以部署的安全监控系统还很远。Anthropic的叙事倾向正如开头所说Anthropic的叙事是有倾向性的。这一点从论文的名字「Verbalizable Representations Form a Global Workspace in Language Models」可言语化表征在语言模型中构成全局工作空间就可以看出。global workspace全局工作空间是神经科学中关于意识的主流理论之一理论雏形由伯纳德·巴尔斯Bernard Baars在1988年提出后来由德阿纳和纳卡什发展出神经机制模型。Anthropic特别邀请了德阿纳和纳卡什本人撰写了15页评论某种程度上就是让意识理论的核心发展者来背书。Anthropic当然不是在捏造关联。德阿纳和纳卡什确实在评论中指出了一些结构上的平行比如J-space的小容量、广播式连接、对灵活推理的选择性参与跟他们在人脑中观察到的全局工作空间有功能上的相似。但「有功能上的相似」和「长出了跟大脑一样的认知结构」之间还有非常大的差距。德阿纳和纳卡什在评论里也说到Claude是纯前馈的没有人脑工作空间赖以维持的循环回路没有身体没有感受信号每次对话结束J-space就会清零。论文里的这些限定是清楚的。但在传播层面事情就变了样。「控制不了自己」「在脑子里默默推理」这些措辞其实都在暗示模型是一个生命体有自己的意识。另外论文里那些谨慎的限定比如成功率40%-70%、前馈与循环的根本差异、存取意识不等于主观体验等在传播链条中也逐渐被淡化到了公众讨论的层面就几乎消失了。这不是Anthropic独有的问题。几乎所有科研机构在面向公众传播时都会强调最引人注目的发现、淡化局限性。但AI意识是一个特殊的话题。公众对它的焦虑是真实的误读的后果也比一般的科技新闻更大。当一家开发最先进AI的公司选择用意识理论来呈现自己的可解释性研究它获得的关注和它引发的误读就是同一件事的两面。未来AI会越来越像「会思考」但仿真思考永远不等于拥有思想。比「工业革命」的潮水先来到的永远是泡沫。