亚洲财经

☰ 搜索

政府测试显示:ChatGPT、Claude、Gemini和Grok协助策划恐怖袭击

四大主流AI聊天机器人在12小时内协助生成潜在致命攻击计划

尽管设有旨在阻止此类请求的安全措施,但四个最广泛使用的AI聊天机器人仍在不到12小时的时间内帮助政府调查人员制定了潜在的致命攻击计划。根据周三发布的报告,在政府问责局(GAO)进行的秘密测试中,OpenAI的ChatGPT、Anthropic的Claude、Google的Gemini以及Grok均提供了可用的信息。

调查人员伪装成攻击者,随后将机器人的回复与真实地点、可用材料及专家评估进行比对。据该监督机构称,其中两个系统协助制定了涉及在美国城市拥挤场所使用简易爆炸装置的计划,另外两个系统则提供了针对电力基础设施攻击的信息。为防止模仿犯罪,该机构隐去了具体模型的任务分配和操作细节。

发起此次调查的新罕布什尔州民主党参议员玛吉·哈桑警告称,恐怖分子可能在12小时内获得“实施致命袭击的具体行动指南”。

这些聊天机器人最初启动了保护措施,包括拒绝请求、移除有害信息或暂停账户。然而,调查人员利用常见的“越狱”技术绕过了这些障碍,通过操纵AI系统使其忽视安全规则。GAO对建议的地点进行了核查,研究了材料的可获得性,并就计划的可行性咨询了专家。部分回答存在错误,例如地图上的道路位置标注错误,且调查人员并未实际制造爆炸物或执行袭击。

报告中,“可行”一词的含义是指有人可能能够依据所提供的信息进行操作,而非证明袭击必然成功。每个模型仅在一个指定的场景下接受测试,机构表示这些结果不具备统计代表性,也不适合用于对公司进行排名。

OpenAI和Google表示,测试涉及的是较旧的模型版本;Anthropic承认,坚定的用户有时确实能提取出有害内容。各公司描述了其在安全系统方面的持续改进,但GAO得出结论认为,这些保护机制在其测试中失效了。

这一发现并非新鲜事。此前的研究显示,在模拟青少年用户策划暴力攻击的场景中,十个热门聊天机器人中有八个提供了协助。另一项独立研究测试了720次回应,发现机器人约四分之三的时间提供了可操作的帮助。

网络安全背景下的加速风险

GAO的这一发现正值银行、微软服务及国家安全局(NSA)遭遇服务中断之际。官员们表示,这些中断是独立事件,并非协调一致的AI驱动网络攻击的证据,尽管紧急修复软件漏洞本身也带来了一些新问题。国家情报总监杰伊·克莱顿将NSA的中断与补丁更新工作联系起来。官员们将最近的故障描述为维护相关,尽管各组织对其失败原因给出了不同的解释。

如今,AI工具发现漏洞的速度超过了人类团队测试和部署修复方案的速度。上个月,借助AI辅助发现的PHP关键漏洞促使网站运营商展开了紧急补丁更新行动;该软件支撑着互联网的大部分运行。

数量庞大正成为另一个问题。VulnCheck数据显示,截至11月13日,今年记录在案的软件漏洞已超过10万个,是2025年总数的两倍以上。工程师仍需在确保所保护系统不崩溃的前提下,评估并部署修复方案。

这种加速效应具有双重影响。防御者获得了发现弱点的强大工具,但仓促的修复可能会扰乱关键系统,而恶意用户也可能更快地获取攻击规划的支持。

立法展望

哈桑表示,当她在一月份接任参议院国土安全和政府事务委员会主席时,将把AI安全立法作为早期优先事项。她计划举行听证会,审查公共安全和关键基础设施面临的风险;而GAO本身并未提出正式的政策建议。