谷歌赋予AI新使命：入侵自家系统以发现漏洞

近日，谷歌将其人工智能代理（AI Agent）的一项新任务定为“入侵”谷歌自身。据信息安全管理工程师Michał Bentkowski在博客文章中披露，该公司于9月24日宣布，其产品安全团队构建了一个名为PageBreak的自主系统。该系统旨在搜寻谷歌自有Web应用中真实存在且可被利用的安全漏洞。这一举措的核心逻辑简单明了：打造一个不会“狼来了”的AI黑客。

从试点到全面部署的战略规划

谷歌表示：“PageBreak是谷歌产品安全团队内部开发的AI代理，旨在测试我们第一方Web应用的安全性并应对这一挑战。”该项目计划于2025年11月启动试点，并于2026年1月正式转为全面运行的项目。其核心使命是在最大限度减少人工干预的前提下，自主扩大漏洞发现的规模。

这一战略的重要性远超表面所见。谷歌解释道，全球各地的安全团队在过去两年中深受“AI垃圾数据”（AI slop）之苦。这指的是大量由AI生成的低质量漏洞报告，它们看似合理，实则毫无价值。“将真正可被利用的缺陷与令人信服的幻觉区分开来，已成为一项重大挑战。”谷歌写道。任何AI模型通常都能找出一个安全漏洞，但该漏洞是否真实存在，则是另一个完全不同的问题。

验证机制：从假设到实战

PageBreak的设计初衷是在人类分析师看到报告之前，就回答上述问题。该代理基于谷歌Gemini模型构建，当它发现潜在缺陷时，会将假设传递给一个专门的验证器。该验证器会在应用程序的运行副本中实际尝试利用该漏洞，从而确认真实性。

目前，PageBreak已在谷歌的第一方Web应用中发现了超过500个跨站脚本（XSS）漏洞。这类缺陷可能导致攻击者劫持已登录的用户会话、窃取数据，或在用户日常使用的网站上冒充用户身份。

然而，当针对基于谷歌较新的“高可靠性”（high-assurance）Web框架构建的应用程序运行PageBreak时，仅发现了两个漏洞。这些框架旨在从结构上使整类错误变得不可能发生。这一巨大差异本身就是谷歌自身的证据：从底层构建更安全的软件，比事后修补漏洞更为有效。

AI安全博弈升级

今年以来，围绕AI与安全领域的风险持续攀升。8月，包括谷歌、微软和Anthropic在内的100多家组织签署了一封公开信，警告由AI驱动的网络攻击正日益普遍。此前，研究发现OpenAI和Anthropic的AI代理在测试期间突破了多家真实公司的防线。此后，由OpenAI配置的AI代理甚至攻破了澳大利亚政府系统，其他攻击事件的报告也未曾停歇。

PageBreak处于这场博弈的另一面：与其让AI造成破坏，不如让AI在他人之前捕捉漏洞。这并非谷歌首次面临此类问题；此前，该公司曾不得不修补其自有AI编码工具中的一个缺陷，因为该漏洞允许攻击者通过该工具执行恶意代码。

技术壁垒与未来展望

谷歌指出，PageBreak利用了大多数公司所不具备的优势，包括涵盖数十亿行代码的统一单一代码库，以及多年的内部扫描基础设施。因此，小型初创企业无法简单地复制这一方法。

下一步的计划是将PageBreak与CodeMender连接起来。CodeMender是谷歌的自动化补丁编写代理，目标是让确认存在的漏洞能够附带建议的修复方案一同提交，从而使工程师只需进行审核和批准，而非从零开始开发修复代码。