Anthropic研究发现,Claude内部存在一个名为”J空间”的隐藏工作台,类似人类认知中的”全局工作空间”。它在模型输出前已完成风险识别、中间推理,甚至能判断自己正被测试。这一结构并非人为设计,而是训练中自然涌现。
Anthropic第一次打开Claude的大脑,发现它没说出口的话
资讯来源:华尔街见闻
Anthropic研究发现,Claude内部存在一个名为”J空间”的隐藏工作台,类似人类认知中的”全局工作空间”。它在模型输出前已完成风险识别、中间推理,甚至能判断自己正被测试。这一结构并非人为设计,而是训练中自然涌现。
资讯来源:华尔街见闻