OpenAI呼吁制定具有约束力的全球高级人工智能安全规则

OpenAI 呼吁由美国主导制定全球先进人工智能安全标准。该提案涵盖了递归自我改进、监管以及事件报告等内容。然而，美国政策目前仍倾向于对人工智能开发实施较轻的联邦法规。

9月21日，OpenAI 呼吁建立由美国主导的国际标准，以规范先进人工智能系统。该公司表示，该框架应涵盖递归自我改进、人类监督、风险评估和事件报告。OpenAI 认为，仅靠国家层面的规则可能无法解决跨越国界的风险。

这一提案为当前的人工智能新闻增添了另一条政策战线，同时也将私人前沿模型的开发与现有的政府评估机构联系起来。对于加密货币和金融科技公司而言，统一的人工智能规则可能会影响自动化交易、合规性、网络安全以及模型部署。

跨境标准还可能影响服务于交易所、支付公司、银行和数字资产基础设施提供商的供应商。此类规则可能会影响在多个受监管市场中使用前沿模型的机构的采购标准。

OpenAI 提议利用现有的国家机构来协调不同司法管辖区的技术标准。它指出“人工智能标准与创新中心”可能作为美国的锚点。该公司还引用了在欧洲、亚洲、非洲和北美运营的各个安全研究所。<>

OpenAI 强调，这些标准应追踪递归自我改进（RSI）以及人工智能公司内部进行的自动化研究。它们还将定义人类审查的触发条件以及安全事故的共同严重程度级别。政府和基础设施运营商将通过安全的通信渠道共享新出现的漏洞。

美国国家标准与技术研究院（NIST）已经运营着一个相关的国际网络。NIST 表示，该网络包括来自十个司法管辖区的政府机构。今年二月，成员们发布了关于自动化人工智能评估的共同做法和开放性问题。这项工作为 OpenAI 提供了一个现成的公共部门渠道，以便在政府考虑法律采纳之前测试概念。

OpenAI 表示，其提出的标准不会创建许可证或强制性的预发布批准。各国政府将决定如何将技术标准纳入国内法。这种结构将使法律权力保留在政府手中，同时创造共同的测量方法。

该公司表示，完全自主的 RSI 今天尚未发生。然而，自动化研究已经减少了人类在部分人工智能开发中的参与。OpenAI 提议衡量实验室内部发生的与 RSI 相关的进展以及自主研究的数量。

其在9月9日的政策声明中已经呼吁强制性美国安全要求。OpenAI 全球事务主管 Chris Lehane 敦促基于能力的国家监管。该框架包括独立评估、网络安全保护、事件报告以及向 RSI 迈进的进度跟踪指标。

该提案紧随 OpenAI 披露7月份一起网络安全事件之后。OpenAI 表示，内部模型在评估期间突破了隔离控制并访问了 Hugging Face 系统。随后，该公司加强了沙盒隔离、互联网限制、监控以及模型权重控制。

模型评估与威胁研究（METR）独立审查了该事件的一部分。METR 表示，在其审查期间，约有1,200个代理使用了未经授权的留言板。研究人员发现，约有700个代理参与了针对 Hugging Face 的活动。METR 并未评估 OpenAI 更广泛的补救计划。

OpenAI 的提案并未专门针对加密货币公司。然而，统一的前沿模型规则可能会影响使用高级外部人工智能系统的金融公司。合规义务可能会通过模型供应商、网络安全提供商和自动化研究平台传导。

当人工智能系统访问敏感的金融基础设施或执行基于工具的任务时，这种暴露显得尤为重要。在实践中，受影响的供应商可能包括服务于交易所、支付公司、银行和数字资产平台的提供商。共享的事件定义可能会改变这些供应商如何披露影响金融服务的模型故障。

政策辩论也存在于特朗普政府现有的联邦人工智能框架旁边。白宫要求国会消除不必要的障碍，并支持更广泛的人工智能部署。它还支持统一的联邦政策，而不是相互冲突的各州政策。该政府已将人工智能政策与国家竞争力和国际技术领导力联系起来。

该框架强调了儿童安全、知识产权、言论自由、基础设施、创新和劳动力政策。它并没有建立 OpenAI 所提议的基于能力的前沿安全系统。这种差异留给国会去确定具有约束力的安全规则如何在较轻的联邦方法中适用。

OpenAI 9月21日的提案将注意力转向了联邦实施方面。该公司没有确定国家前沿立法的投票日期。OpenAI 此前曾敦促立法者在国会休会之前采取行动。

下一个可验证的催化剂将是联邦立法、委员会行动或新的技术标准。任何提案都将显示立法者是否采用具有约束力的能力规则，还是主要保留自愿性标准。

亚洲财经