OpenAI呼吁建立全球AI安全标准，以应对日益自主的人工智能
人工智能的能力正在不断突破，不再局限于回答问题。如今，AI系统已深度介入代码编写、科学研究、数据分析等曾经几乎完全由人类主导的任务领域。这引出了一个全新的问题：当人工智能在构建下一代AI的过程中扮演更重要的角色时，将会发生什么？
针对这一挑战，OpenAI于9月21日发布了一篇题为《为AI下一阶段建立标准》的文章，呼吁国际社会共同努力，制定前沿人工智能的通用技术标准。该公司表示，这些标准将帮助各国更一致地衡量AI能力、评估风险、测试安全措施以及报告重大事件。
核心要点
- OpenAI希望建立用于评估前沿AI的国际通用标准。
- 提案涵盖能力评估、风险分析、安全措施及事故报告。
- OpenAI强调，目前尚未出现完全自主的递归自我改进现象。
- 随着AI能力的提升，公司主张人类控制应始终处于核心地位。
- 现有的AI安全组织可协助开发共同的技术标准。
为前沿AI建立共同框架
其基本理念相当简洁：各国无需为评估先进AI带来的危险而各自创建截然不同的方法论。OpenAI认为，统一技术方法可以为各国政府、研究人员和AI社区提供一种有效手段，用以评估日益复杂的AI系统。特别是在涉及跨国界的AI相关事件发生时，这种标准化显得尤为重要。
需要明确的是，该公司并未提议制定单一的全球性AI法律。相反，它希望各国开发出相互兼容的标准，以便各国政府在其各自的监管体系中决定如何使用这些标准。这一区别至关重要，因为建议的标准并不会立即成为所有人工智能技术的许可或认证要求。各国政府仍保留权力，以确定这些标准在其司法管辖区内的具体适用方式。
递归自我改进成为讨论焦点
OpenAI提案中一个引人注目的部分是对“递归自我改进”（RSI）的探讨。这一概念描绘了一种未来情景：AI系统将越来越多地协助研究人员开发更具能力的人工智能。简而言之，AI可能成为优化AI自身过程的一部分。
这或许会加速AI研究的进程，但也带来了严峻的安全难题：如果AI系统深度参与未来模型的研发，人类监督应在多大程度上保持介入？
OpenAI指出，目前完全自主的递归自我改进尚未发生。同时，该公司主张，除非能在确保人类控制的前提下实现安全操作，否则不应追求这一方向。随着AI系统能够处理越来越复杂的研发任务，评估与安全测试的重要性愈发凸显。
AI安全标准或将变得更为关键
OpenAI还指出，全球现有的AI安全组织和网络可作为此项努力的基础模块。该公司特别提到了美国、英国、加拿大、法国、德国、日本、韩国、新加坡、印度、肯尼亚和澳大利亚等国的AI安全研究所及相关机构。
与其让每个国家开发完全独立的技术路径，OpenAI希望这些团体能够致力于制定互补的标准。该提案还呼吁AI开发者、研究人员、学者以及独立技术专家参与其中。OpenAI强调，标准的制定应围绕技术测量展开，而非服务于特定公司或国家的利益。
为何此举至关重要
时机值得注意。一方面，AI公司正在构建能执行多步骤任务且对人工干预依赖度逐渐降低的系统；另一方面，各国政府仍在探索如何规范这项技术。
OpenAI希望美国能在制定先进AI国际标准方面发挥领导作用。更大的挑战在于，如何让各国和各家公司就标准的具体测量内容及适用方式达成一致。
目前，OpenAI的提案重点在于在前沿AI能力进一步跃升之前，建立共同的技术基础。随着AI开始承担更多自身研发的工作，拥有共享的方式来衡量能力、风险和保障措施，可能会在这场对话中占据越来越重要的位置。
