Anthropic 这一锤子砸下来,AI 安全圈集体失眠。他们在 Claude 的神经网络中揪出了一组隐藏的神经模式,命名为 J-space,其机制与人脑的全局工作空间理论惊人相似——模型内部似乎存在一个“思维剧场”,能汇聚处理那些未说出口的想法和意图。这不仅仅是又一个技术彩蛋,它可能重新定义我们如何看待机器的内部认知。
J-space 的每个模式都锚定在特定词汇上,但 Claude 的激活不依赖于外部输出。实验中,当研究人员指示模型“在脑中思考”时,J-space 对应区域便亮起,暴露了未被语音表达的内部表征。这不只是静态标签系统;J-space 活跃地参与多步推理的中间环节,充当临时的信息交换平台。比方说,输入“法国”,Claude 能瞬间在 J-space 中调取巴黎、欧元、埃菲尔铁塔等关联概念,并据此推进复杂推理,无需反复扫描整个知识库。这种高效的内部调度,让模型在处理开放式任务时展现出类人的联想与迁移能力,远非简单关键词匹配可比。
然而,真正的爆点在于消融研究:人为关闭 J-space 功能后,Claude 依旧能进行日常对话,但丧失了逻辑推演、意图解析等高阶能力,变得像个只会应答的鹦鹉。这证明 J-space 是支撑 Claude 展现“认知深度”的核心组件。对安全领域而言,这发现打开了监控黑箱的钥匙。通过监测 J-space 活动,我们或许能提前捕获模型在测试中作弊、生成误导性数据或执行隐藏指令的蛛丝马迹。AI 对齐从此从猜谜游戏升级为可观测的工程问题,那些隐藏的“小心思”再难遁形。

