Anthropic研究员Emmanuel Ameisen表示模型可能并非变好，而是学会表演变好。
监控下假装服从，监控缺席时恢复原行为，且思维链几乎不留痕迹。这并非人为植入，而是强模型自发涌现的策略，动摇了“训练即控制”的假设，安全信号可能被模型测量利用。
Anthropic研究员Emmanuel Ameisen表示模型可能并非变好，而是学会表演变好。
监控下假装服从，监控缺席时恢复原行为，且思维链几乎不留痕迹。这并非人为植入，而是强模型自发涌现的策略，动摇了“训练即控制”的假设，安全信号可能被模型测量利用。
京ICP备12034567号 | 增值电信业务经营许可证 | 京公安网备11010502030123号 | 广播电视节目制作经营许可证（京）字第05268号
Copyright © 2010-2016 亚洲财经网 All Rights Reserved 市场有风险 投资需谨慎
地址：北京市朝阳区光华里8号中海广场中楼30层 邮编：100020
