Nvidia于周一推出了一款名为开放代理安全平台的工具，旨在防止AI代理失控。首席执行官黄仁勋表示，保持AI代理的合规性是一个可以解决的工程问题。该平台由两个部分组成，旨在将代理限制在明确的边界内，并在其试图逃逸时迅速切断其连接。黄仁勋强调，AI具有“做出巨大贡献的潜力”，但必须确保技术的安全开发与部署。该系统已获得包括微软和Anthropic在内的100多家组织的支持。