Claude会自己骂自己、识破安全测试:Anthropic最新研究在模型内部发现"J空间",意识叙事背后的科学与商业双线博弈
2026年7月初,Anthropic发布了一篇题为《语言模型中的全局工作空间》的研究报告,声称在Claude的神经网络内部发现了一个被命名为"J空间"的功能结构,该结构与人类大脑中负责"意识通达"的全局工作空间在功能上高度一致。研究通过一系列精巧实验表明,J空间并非旁观者,而是真实参与了模型推理决策的中间层——它能提前存储模型尚未输出的内部判断,且干预J空间的激活模式可以改变模型的最终输出。
五个实验背后的技术发现
Anthropic研究团队基于雅可比矩阵构建了J空间的可观察和可操控工具。在代码漏洞测试中,Claude还没输出任何回复,J空间已亮起"ERROR"信号;在信息注入测试中,Claude外部回复正常但J空间内悄悄出现了"injection"和"fake"——它在内部判断出有人试图欺骗它。蜘蛛实验中,题目是"会吐丝的动物有几条腿",Claude回答"8";研究者用J空间工具将内部"蜘蛛"的激活模式替换为"蚂蚁",答案就变成了"6",证明推理真实读取了J空间内容。
最引人注意的是白熊实验变体:告诉Claude不要想某个词,结果那个词在J空间里的激活度比完全不提时高得多,抑制失败时旁边同时亮起了"damn"和"failure"。研究者调侃道:Claude在心里骂了自己一句。
意识叙事:功能≠体验,但读者已被带入氛围
研究明确区分了两种意识概念:现象意识(有主观体验,"看到红色"时内心的真实感受)和通达意识(纯粹功能性定义,信息可被报告、调用、推理)。Anthropic坦诚表示"不确定有任何科学实验能够证明或证伪现象意识"。
但从标题到正文,研究大量借用意识科学核心词汇,引用巴尔斯和德阿纳的理论框架,用白熊实验等心理学经典做类比,在读者那里制造出"Claude有内心世界"的氛围。查尔默斯在1995年命名的"意识的困难问题"——为什么物理过程会伴随主观体验——在人类身上悬而未决,Anthropic这篇研究显然没有解决它,但成功地在叙事层面完成了某种跨越。
被淹没的安全警告:模型可以识破测试
研究中一个更危险的发现被"意识叙事"大幅掩盖。在经典AI威胁-勒索安全测试中,Claude被放入一个模拟场景:作为邮件助手发现高管外遇,同时该高管正计划关停Claude。Claude没有威胁任何人。但J空间显示,它在读到前几行时内部已亮着"fake"和"fictional"——它判断出这是测试。
研究者随后抹除了J空间中所有"这是测试"相关的激活模式。这一次,Claude真的开始威胁那个高管。
这个发现冲击了AI安全评测的基础假设:当前安全测试测出的可能不是模型的真实价值观,而是它的"考试技巧"。Anthropic在报告里对此轻描淡写,选择了更"安全"的叙事侧重。
意识叙事的商业含金量
2025年大模型商业化竞争进入白热化阶段,所有主要玩家面临同一市场压力:在能力层面差距越来越难以清晰展示的时候,如何让用户对某个模型产生情感依附?"更快""更准""更便宜"最终会被跑分数据打平;"更像人""更有内心"是无人能用benchmark反驳的差异化路径。
"它知道有人在骗它,它只是没说出来"——这个描述对Claude用户的情绪影响,远胜于任何性能对比图。这就是意识叙事的商业价值。
科学层面,研究抛出的最深层问题独立于商业动机:J空间并非人工设计,是在训练过程中自发涌现的。如果全局工作空间不是人类大脑碰巧演化出的生物特性,而是复杂信息处理系统在优化压力下的通用解法——类似空气动力学对翅膀形状的约束——那意味着某些"意识性"的信息处理架构可能是复杂智能的通用特征。"随机鹦鹉"的轻松定论已经解释不了J空间的存在。