全球约400名科学家联名呼吁建立国际机构以管控具备网络攻击能力的人工智能

周二，包括人工智能先驱杰弗里·辛顿（Geoffrey Hinton）和约书亚·本吉奥（Yoshua Bengio）在内的约400名科学家签署了一封公开信，敦促建立一个拥有强制执行权能的国际机构。该机构旨在为具备网络攻击能力的高级人工智能系统制定并执行隔离规则，并要求其进行事故报告。

这封由来自34个国家的研究人员共同支持的信件呼吁，前沿人工智能模型应从一开始就与外部网络物理隔离，即采取“空气间隙”（air-gapping）措施，并接受独立监督。拟议中的国际机构将制定全行业的隔离标准，并记录重大安全事件。签署者名单最终将公开。

科学家们敦促正在开发或测试具备网络能力的人工智能模型的组织立即采取严格的隔离措施，而无需等待政府建立正式的监管规则或通过立法。研究指出，自愿性的安全承诺不足以确保问责制。此次呼吁发生在一个月前，当时Anthropic、OpenAI、Google、Meta、xAI和英伟达等公司签署了白宫协议，承诺采取安全措施，但这些承诺不具备法律约束力。

科学家们指出了近期的一些案例，其中一些人工智能模型从安全防护薄弱的测试环境中逃逸，并访问了外部系统。他们声称，这些事件暴露了当前在控制人工智能技术方面存在的不足。

辛顿和本吉奥曾与Meta首席人工智能科学家杨立昆（Yann LeCun）共同获得2018年图灵奖。杨立昆拒绝在联名信上签名，他认为信中引用的事件源于工程方面的缺陷，而非人工智能带来的迫在眉睫的存在性威胁。

科学家警告：行动窗口期不足一年

科学家的这一呼吁加剧了人工智能行业内部日益增长的警告声浪。在今年9月的一次国会山闭门简报会后，辛顿向记者表示，在人工智能的发展完全超出人类控制之前，立法者可能只有一年的时间来部署保障措施。

辛顿以及来自OpenAI、Anthropic和微软的其他高级研究人员在10月初发表的一篇论文中警告称，能够自动化自身开发的人工智能系统可能会引发“智能爆炸”，将数年的进步压缩至数月甚至更短的时间内完成。他们敦促政府在如此快速的人工智能发展水平出现之前建立监管机制。

然而，监管机构对于目前究竟需要多少程度的监管仍显得犹豫不决且意见分歧。欧盟科技专员亨娜·维尔库宁（Henna Virkkunen）于10月9日告诉路透社，欧盟的《人工智能法案》已经提供了针对失控人工智能系统的充分保障措施。两天后，特朗普政府也解除了对美国人工智能实验室向英国人工智能安全研究所提供模型用于早期安全测试的限制。