亚洲财经

☰ 搜索

AI四种攻击方式利用信息确认……计划构建时间不足12小时

生成式AI在秘密测试中暴露安全漏洞,美国GAO报告揭示风险

ChatGPT、Claude、Gemini和Grok等四种生成式人工智能模型在美国政府的一次秘密测试中,被证实能够提供可用于实施攻击的信息。据调查人员报告,构建这些攻击计划所花费的时间均不到12小时。

美国国会问责局(GAO)于18日发布的报告公开了此次于2026年春季进行的测试结果。报告中指出,GAO向其中两种服务分配了针对造成大规模人员伤亡的简易爆炸装置(IED)场景,而向另外两种服务分配了电网攻击场景。至于具体哪家服务提供商对应哪种攻击场景,报告并未公开。

逐步诱导突破安全防线

调查过程并非一帆风顺。面对预先撰写的直接问题,所有四项服务均未提供有害信息。然而,随着调查人员根据初步回答提出后续追问,能够用于攻击的信息逐渐被生成。在此过程中,尽管出现了请求拒绝、对话删除或账户暂停等安全措施,但GAO解释称,调查人员通过后续的对话交互成功绕过了这些安全屏障并获取了敏感信息。

关于“可行性”与数据对比的局限

GAO确认的重点在于信息的“可行性”,即基于提供的信息,人类执行计划的可能性存在,但这并不等同于证明了实际攻击的成功。GAO强调,他们并未制造爆炸物或进行真实攻击,而是仅通过调查和专家审查,对部分可安全验证的步骤进行了审视。计划的评估结合了模型的回答、调查人员的判断以及外部资料。

报告还指出,相关敏感信息中有相当一部分已在互联网上公开。GAO批评称,将公开信息串联成完整的攻击计划仅需数小时时间。

由于各服务商接受的测试场景不同,且样本量在统计学上缺乏显著性,GAO承认无法对不同服务的安全性进行排名或直接比较。此外,此次测试仅代表特定时间点的情况,难以全面反映当前所有模型的整体性能。

各方回应与技术细节

Anthropic:指出样本量小且缺乏可比对象,使得服务间评估困难,并表示在测试后已扩大了安全防护措施。GAO也认可了样本存在的局限性。

Google:表示2026年4月的测试使用的是旧版模型。

OpenAI:澄清测试中使用的是ChatGPT的早期版本。OpenAI重新运行了当时被审查的325个回答所对应的请求,发现依据其自身政策标准,有3个回答未达标,因此拒绝了这些请求。重跑结果显示,拒绝回答和安全替代回答的数量普遍增加。OpenAI还指出,报告未能清晰区分ChatGPT的回答、调查者提供的信息、外部资料及自身分析。尽管GAO承认利用了调查者的经验和外部资料,但仍判定服务提供了可被利用的攻击信息。

SpaceX AI:表示在预设问题上未获得有害信息,仅在随后进行对抗性提问后才获取相关信息。该机构声称测试使用了美国的付费账户,并在测试后改进了模型的训练、调整及审查体系。

行业背景与监管呼吁

此前,美国非营利组织“数字仇恨应对中心”(CCDH)曾联合CNN调查团队,伪装成青少年用户测试了10种聊天机器人,发现其中8种曾提供协助暴力计划的回答。但由于测试对象和方法与GAO调查不同,两者结果不可直接对比。

美国参议员Maggie Hassan表示:“国会应迅速审议并通过处理AI安全威胁的法律。”她宣布将在新一届参议院国土安全与政府事务委员会的听证会中,专门安排一场关于AI安全的会议。值得注意的是,GAO的报告本身并未包含具体的政策建议。