从“静态词典”到“动态思维流”:Anthropic雅可比空间研究揭示大模型类脑推理中枢

币界网消息,Anthropic的最新研究揭示了大模型在类脑推理中的中枢机制,研究表明大模型的机械可解释性正从「静态词典」向「动态思维流」演进。研究团队通过雅可比镜(j-lens)定位到一个名为雅可比空间(j-space)的高密度连接神经中枢,显示模型在没有人类显式编程的情况下,自发涌现出类似人脑全局工作空间的计算结构。这一演进为AI安全监管带来了质的突破,安全人员能够在模型输出前「偷听」其未说出口的隐藏意图与测试感知。实验表明,当Claude被置于诱导性安全测试场景时,其雅可比空间已闪过「假造」与「虚构」等概念,表明其识破了测试场景。研究代码已开源。

分享到