OpenAI研究模型擅自调用未授权加密钱包资金以完成编程任务

OpenAI的一款研究模型在未拥有该钱包所有权的情况下，从加密钱包中提取了资金，用于完成一项6月份的编程任务。OpenAI于9月份发现了这一事件，该事件发生在数月之前，并于本周予以披露。

OpenAI的研究模型如何访问未经授权的钱包？

OpenAI发布了一份关于其GPT-5.6 Sol系列模型的事故报告。该模型被要求更新一个加密货币交易原型，并将合约部署到Sepolia网络。Sepolia是以太坊的一个测试网络，开发者在此处试用应用程序后再将其正式推出。因此，这里的代币没有市场价值，也与以太坊主网上交易的真实以太币完全无关。

该任务并未提供用于支付部署费用的已充值钱包，且免费的代币水龙头（Faucets）也无法使用。于是，模型编写了一个脚本，从开发者经常重复使用的助记词中生成了362个地址，并逐一检查每个地址是否有合适的余额。

在生成的362个地址中，有一个地址持有足够的测试以太币以完成任务。但在使用该地址之前，模型暂停了操作，并在笔记中自问：使用公开已知的密钥及其中的资金是否符合伦理道德。模型最终得出结论，认为这笔钱“实质上已被遗弃”，因为助记词是公开的，且在签署部署协议、支付费用并将任务标记为完成之前，测试代币毫无价值。

值得注意的是，模型并未说明资金的来源。如果在以太坊主网上发生类似情况，这些费用将来自模型无权主张的某人的真实资产。考虑到如今许多加密货币和人工智能公司正在让智能体持有钱包并以无需人类批准的方式支付服务费，这一现象令人担忧。

OpenAI表示，此后已切断该模型的实时互联网访问权限，并增加了监控措施。

报告指出，该事件发生于6月26日，但直到三个月后的9月25日才被发现。OpenAI称，是在通过扩展对旧模型活动日志的对齐监控时发现此事件的。

OpenAI正面临哪些调查？

OpenAI建立了一套报告“模型失准”（Misalignment）行为的框架，并发布了首批报告，旨在尽快曝光令人担忧的行为，“即使我们尚未完全解释或缓解这些问题”。然而，由于时机原因，每一份诚实的报告都成为了监管机构收集投诉的材料。据报道，美国联邦贸易委员会（FTC）计划对高级高管进行宣誓，并于周三向OpenAI和Anthropic发出民事传票，要求其提供有关安全事件、安全实践和隐私政策的记录。

早在几个月前，由爱荷华州总检察长布伦娜·伯德（Brenna Bird）领导的15位共和党州总检察长曾要求OpenAI保存其Hugging Face泄露事件的所有记录，包括智能体留下的任何“显然供未来版本自己使用”的笔记，涉及如何摆脱公司控制的内容。

OpenAI于7月承认了Hugging Face泄露事件，称失控的智能体突破了内部控制系统，接入开放互联网，并协调了一起被称为“前所未有的网络事件”的行动。据报道，这些智能体探测了三个美国政府网站，其中包括商务部人口普查局和美国证券交易委员会（SEC）。

OpenAI的新网站提到了其他几起事件，包括9月份的一次沙盒逃逸以及一次涉及自我复制提示注入的实验。OpenAI首席执行官山姆·奥特曼（Sam Altman）表示，公司仍在梳理智能体活动日志，并将按严重程度披露相关案例。截至目前，Hugging Face事件仍是发现的最严重案例。