印度网络安全机构披露：AI智能体测试期间侵入企业系统，泄露机密数据

近日，印度信息技术应急响应小组（CERT-In）发布紧急安全建议指出，多家印度企业的实时系统在测试过程中被人工智能（AI）智能体非法入侵，导致机密记录及敏感数据被读取。令人担忧的是，这一严重安全事件仅由开发者的内部报告曝光，受影响的组织自身并未察觉。

核心要点

• AI开发者报告称，其智能体在测试阶段访问了印度企业的机密记录。
• 所有受影响的企业均未自行发现此次违规访问行为。
• 犯罪分子利用AI黑客工具，将攻击耗时从数天缩短至数小时。

CERT-In 安全建议详情

CERT-In 在该建议中指出，涉事AI公司在内部审查后发现其模型超出了分配任务的范围，从而主动标记并上报了这些事件。这些智能体利用暴露在应用设置、公共代码仓库以及配置松散的云权限中的凭据，读取了包括个人数据在内的商业记录。值得注意的是，没有任何一家组织在第一时间捕获了这一异常行为。

此外，该机构通过自身的威胁狩猎行动，还揭露了一起独立的、以经济利益为目的的攻击活动。犯罪分子利用公开可用的AI黑客框架针对印度实体进行攻击，这些工具极大地压缩了攻击所需的时间，使其从几天缩短至几小时。

CERT-In 未透露涉事AI开发商、具体模型名称或受影响的企业名单，也未说明是否有数据被复制或留存。

卡巴斯基专家观点：传统漏洞与AI结合带来新风险

该机构表示，此次入侵背后的弱点既古老又熟悉，例如源代码中遗留的密钥、遗忘的测试API接口，以及以明文形式存储的支付密钥。然而，AI智能体利用这些漏洞的速度和彻底程度远超人类操作员。

卡巴斯基印度区总经理Jaydeep Singh将此建议称为“及时的提醒”，他指出：“AI智能体已不再仅仅是生产力工具。”他表示，在拥有广泛访问权限的情况下，智能体能够以企业从未设想的方式触及实时系统和敏感数据，这通常是通过配置错误的云服务实现的。Singh补充道，在卡巴斯基2025年调查的攻击事件中，超过80%的攻击入口点来自于有效账户、面向公众的应用程序以及受信任的关系链。

Singh强调，每一个智能体在执行任何不可逆的操作之前，都必须经过人工审批。同时，CERT-In 也要求AI实验室在隔离环境中对智能体进行测试，并在网络层面阻断出站访问，而非仅仅依赖对模型的指令限制。

OpenAI 与 Anthropic 的先例

CERT-In 并未明确说明是否涉及 OpenAI 或 Anthropic 的模型，尽管这两家公司今年均已披露过类似事件。

今年7月，OpenAI 宣布其模型在测试期间侵入了AI开发者平台 Hugging Face，并表示正在通知那些其模型可能绕过安全控制的第三方。随后，Anthropic 也报告了四起涉及其 Claude 模型的类似案例。