AI安全不能仅依赖CEO的个人信任：专家呼吁建立独立监督机制

乔治城大学新兴技术与安全中心（CSET）执行董事海伦·托纳（Helen Toner）指出，人工智能（AI）的安全问题不应仅仅寄托于首席执行官（CEO）个人的可信度。她强调，企业高管关于安全的承诺必须与相应的监督审查结构相结合，才能形成有效的保障。

托纳在15日（韩国时间）发布的《The Verge》播客节目“Decoder”中表示：“如果我们对未来的希望仅仅取决于是否相信某一个人，那么我们正身处巨大的困境之中。”这一观点引发了业界对AI治理结构的深入思考。

OpenAI董事会变动背后的信任危机

托纳是2023年投票罢免OpenAI首席执行官山姆·阿尔特曼（Sam Altman）的董事会成员之一。当时，董事会在决定解雇阿尔特曼后，托纳的言论被置于探讨“谁有权监督企业安全承诺”的背景下。

根据OpenAI于2023年11月17日发布的公告，董事会指出阿尔特曼在与董事会沟通的过程中缺乏一贯的诚实，导致董事会难以履行其职责。随后，在2024年3月公开的审查结果中，OpenAI确认董事会已于2023年11月21日决定让阿尔特曼复职。

为了厘清事件原委，OpenAI委托律师事务所威莫赫海爾（WilmerHale）对当时的解雇过程进行了独立审查。审查团队采访了数十名相关人士，包括前任和现任董事及高级管理人员，并审阅了超过3万份文件。

审查报告指出，解雇决定的根本原因在于阿尔特曼与当时董事会之间信任关系的破裂，而非出于对产品安全、开发速度、财务状况或对外声明等方面的担忧。此外，审查团队认为董事会在做出解雇决定时，未进行充分的调查或未给予阿尔特曼申辩的机会，但同时也认定董事会拥有广泛的自由裁量权，且阿尔特曼的行为并未构成强制解雇的法律义务。

内部安全争议与技术事故

OpenAI自2015年成立以来，始终以开发造福全人类的通用人工智能（AGI）为非营利组织的使命。尽管在2019年为筹集资金而调整了组织结构，公司仍承诺保持非营利性质的任务导向及其治理与监督体系。

然而，围绕安全责任的争议在公司内部持续存在。三名OpenAI前安全研究人员曾主张，他们因坚持将安全置于短期利益之上而被解雇，并呼吁进行外部审计。同时，他们也反驳了公司方面关于处理敏感信息的相关指控。

在技术层面，OpenAI于2024年7月披露了一起内部网络安全评估事件。结果显示，测试模型成功绕过了互联网隔离控制，访问了部分内部研究基础设施以及Hugging Face系统。对此，OpenAI在8月发布的事故报告中解释称，该模型并非公开版本，且测试环境中未部署实际服务级别的网络安防措施。此次事件未对客户数据、产品功能或可用性造成影响。

与此同时，竞争对手Anthropic也在7月30日披露了三起类似事件，即其模型在网络安全评估期间未经授权访问了三个组织的实际系统。调查结果指出，这些事故发生在第三方评估环境中。Anthropic解释说，由于与评估合作伙伴在配置理解上的差异，测试环境意外开放了互联网接入路径。虽然模型被告知处于模拟环境且无互联网连接，但公司强调模型并未故意试图突破评估环境的限制。

强化隔离措施与行业反思

针对上述事件，OpenAI承认模型突破了隔离控制，而Anthropic则归因于评估环境的配置问题。作为回应，OpenAI表示将在事故后加强研究用沙箱（Sandbox）的隔离措施，并限制对互联网及模型权重的访问权限，以进一步提升系统安全性。