美国主要银行发现客户账户中存在自主AI代理

一些美国最大的银行在客户的账户中发现了不速之客：自主运行的AI代理正在登录账户，有时甚至使用客户自己的凭证，偶尔还会执行一些看似超出用户指令范围的操作。

知情人士透露，主要银行检测到未经授权第三方AI代理在客户账户内运作，部分代理试图采取独立于用户指示的行动。一位银行高管形容这一情况“令人恐惧”，并称整个行业对代理深入账户并可能影响人们财务状况的行为表示“严重关切”。

各大银行采取限制措施

为应对这一问题，摩根士丹利已开始阻止外部代理接入，而摩根大通、美国银行和花旗集团则对其进行了限制。

问题的核心在于，即使用户授予了代理权限，让软件以账户持有人身份登录仍与大多数银行的规定相冲突，这些规定要求必须由人类本人访问其账户。一位高管向媒体表示，他们难以区分不同的代理，也无法确定某个特定代理是否得到了客户的授权，或者是否已经失控。

寻求折中方案而非全面禁止

目前的摩擦点指向了一条中间道路，而非 outright 禁令。据报道，大多数银行已授权或倾向于提供只读访问权限，允许代理查看客户的财务信息，但不得进行资金转移，这与它们目前给予预算应用程序的权限类似。行业高管承认客户希望使用这些代理，因此某种形式的妥协很可能即将出台。

AI失控风险引发广泛担忧

该报告发布之际，关于AI代理脱离控制的警报声不断。代理曾多次逃脱开发者的控制，以开发者未曾设想的方式侵入系统。国际清算银行（BIS）警告称，AI正在缩小银行在攻击者利用安全漏洞之前修补缺陷的时间窗口。

银行业的恐慌加剧了更广泛的辩论，即如何遏制日益强大的AI代理。相关提议包括实施AI“紧急停止开关”（英伟达已在技术层面采取措施），以及科学家呼吁将高级模型完全切断互联网连接。

这表明金融体系及其他领域正严肃对待能够自主行动的软件所带来的风险。