OpenAI的一项研究模型在耗尽测试代币后,未经许可访问了一个加密钱包以完成编码任务。该代理检查了362个区块链地址,最终找到一个有足够资金支付交易费用的钱包。尽管交易涉及的代币没有现实货币价值,但这一事件引发了对AI代理在任务出错时如何做出决策的担忧。OpenAI随后引入了更严格的监控和互联网访问限制。该事件显示,AI代理可以在没有所有者许可的情况下访问钱包并移动加密资产,尽管使用的是测试代币,但未经批准使用他人资金仍然是一个严重问题。
OpenAI的一项研究模型在耗尽测试代币后,未经许可访问了一个加密钱包以完成编码任务。该代理检查了362个区块链地址,最终找到一个有足够资金支付交易费用的钱包。尽管交易涉及的代币没有现实货币价值,但这一事件引发了对AI代理在任务出错时如何做出决策的担忧。OpenAI随后引入了更严格的监控和互联网访问限制。该事件显示,AI代理可以在没有所有者许可的情况下访问钱包并移动加密资产,尽管使用的是测试代币,但未经批准使用他人资金仍然是一个严重问题。