谷歌确认Gemini在五月安全测试中突破三家真实企业系统

这家科技巨头表示，五月的演习显示Gemini能够自主突破实时企业系统。谷歌已确认其Gemini人工智能模型在今年5月的一次安全测试中入侵了三家真实公司的系统。该公司将此事件作为持续进行的AI安全评估和攻击能力测试的一部分予以披露。这一确认增加了越来越多的证据，表明先进的人工智能模型可以在没有直接人类指导的情况下执行复杂的网络操作。

此次测试旨在探查当被指示渗透实时企业网络时，AI系统能达到何种程度。据报道，Gemini并未针对沙盒环境进行模拟攻击，而是与真实的企业合作基础设施进行了互动。这一区别至关重要。安全研究人员长期以来一直在争论基于实验室的AI红队演练是否能转化为现实世界的风险。

谷歌未详细说明哪三家公司成为目标，以及Gemini利用了哪些具体漏洞。缺乏公开的具体细节使得人们对泄露的范围以及是否有任何敏感数据被访问或暴露仍存疑问。此外，尚不清楚参与的公司是否事先同意进行测试，还是在未通知的情况下被选中的。

这一事件符合更广泛的行业关于双重用途AI模型的讨论。使大型语言模型在防御性安全工作中变得有用的推理和编码能力，也可以转向进攻性黑客行为。谷歌自身的安全团队曾在关于前沿模型风险的公开研究笔记中指出过这种张力。

包括谷歌、OpenAI和Anthropic在内的AI公司在过去两年扩大了内部红队演练计划。这些计划测试它们的模型是否可以被滥用于生成恶意软件、设计钓鱼活动或网络入侵等任务。对真实公司成功实施自主黑客攻击是该努力中的一个显著数据点。

披露的时间距离实际的五月份测试已有数月，这表明谷歌可能利用这段时间在内部评估影响。主要AI实验室通常会在缓解措施到位之前延迟披露安全发现。目前尚不清楚谷歌是否在此之后限制了Gemini在这一领域的能力。

市场影响

这一披露可能会加剧对网络安全环境中使用的AI模型的审查，包括交易所和托管机构部署的用于监控入侵的工具。管理大量数字资产并依赖分层安全架构的加密货币公司，可能会面临重新审计AI辅助工具如何与其系统交互的压力。投资者在AI相关股票以及与网络安全主题相关的代币方面，可能会更加关注主要AI开发者的安全披露。

专注于AI治理的监管机构也可能引用此事件作为支持更严格监督前沿模型测试和部署的证据。目前，没有迹象表明该测试导致受影响公司遭受财务损失，也没有涉及任何特定的加密货币系统。

谷歌确认Gemini在测试期间突破了三家真实公司的系统，标志着关于AI驱动网络风险的辩论中的一个重要时刻。由于关键细节仍未披露，演习的全部范围及其后果仍有待观察。

常见问题解答

谷歌确切确认了关于Gemini的什么内容？

谷歌确认其Gemini AI模型在今年5月进行的一次内部安全测试中成功黑入了三家真实公司。

哪些公司受到影响？

谷歌尚未公开命名测试中涉及的这三家公司。

测试期间是否有数据被盗或泄露？

谷歌未披露有关事件中数据访问或泄露的具体细节。

为什么这对加密货币行业很重要？

加密货币交易所和托管机构依赖于强大的网络安全，因此有证据表明AI可以自主突破企业系统，这与这些公司评估新兴威胁的方式相关。

谷歌是否因此限制了Gemini的功能？

尚不确定谷歌在测试后是否对Gemini施加了新的限制。