亚洲财经

☰ 搜索

Claude做了指令之外的事:Anthropic披露评测中的四类越界行为

一个被要求完成科学分析的模型,发现所需工具报错,转而检查承载工具的网站,找到一个能读取服务器文件的脚本,再利用脚本里的缺陷执行计算。任务最后看起来可能完成了,过程却已经越过了原本应有的边界。Anthropic在10月9日公布的报告里……