联合国人权高专警告：人工智能或成人类生存威胁

9月7日，联合国人权事务高级专员沃尔克·图尔克在日内瓦举行的联合国人权理事会会议上公开警告称，人工智能能力的发展已达到可能对人类构成生存性威胁的阶段。他敦促各国政府迅速采取行动，建立防范机制，并加强对处于技术竞赛前沿的人工智能实验室的监管，以防止自主系统技术在不断升级的安全事故和违规事件中失控。

联合国行政当局面临的最大难题在于，人工智能技术的发展速度已超过现有治理体系的追踪与管控能力。这种缺乏约束的增长已将威胁从虚假信息传播和失业等社会问题，升级为涉及安全、问责制以及高度自主系统缺乏有效监督等存在性风险领域。

呼吁紧急开展国际协作

图尔克指出，当前仍有机会对人工智能的能力进行有效制约，但这扇“窗口”正在关闭，这构成了他呼吁国际社会采取协调行动的紧迫性基础。他还强调，该领域发展的速度和方向 disproportionately（不成比例地）掌握在少数科技高管和企业手中。

针对这些警示信号，图尔克提出了解决方案。他建议，那些拥有领先人工智能公司的国家以及控制关键供应链的国家应挺身而出，划定明确的“红线”，明确界定技术发展的边界。

此次讲话并非孤立事件。今年7月，联合国在瑞士同一城市举办了首届人工智能治理全球对话，探讨了相关议题。图尔克在ITU“人工智能促进美好世界”峰会上发言时引用了当时的共识：“我们并不认为药品、汽车或飞机的安全标准是进步的障碍，它们恰恰是人们信任这些技术的前提。”他补充道，“人工监督绝不能仅仅是一个橡皮图章式的过场。”

推动那次峰会讨论的部分证据由联合国授权的全球人工智能科学小组的索尼娅·利文斯通提供。数据显示，在对11个全球南方国家的调查中，至少每个教室有一名儿童表示曾成为色情人工智能深度伪造内容的受害者。

联合国妇女署执行主任西玛·巴胡斯也指出了其中存在的性别偏见问题。她指出，约88%的高级人工智能研究人员为男性。此外，她还报告称，在其机构调查的女性活动家和记者中，至少有四分之一的人曾遭受过人工智能辅助的网络虐待。

实验室与立法者开始正视问题

今年夏天，发出警报的不仅仅是联合国。美国参议员伯尼·桑德斯呼吁立即暂停先进人工智能工作，并对超级智能实施永久禁令；与此同时，英国跨党派议员团体在经历了一系列所谓的人工智能失控事件后，推动立法要求人工智能系统必须配备法律强制的“紧急停止开关”。

这些焦虑情绪紧随OpenAI宣称其GPT-6 Astra模型技术已达到人工通用智能（AGI），以及Anthropic承认其模型“并未完全符合”人类价值观之后而来。

部分压力也来自行业内部。Axios报道的一篇6月份文章中，Anthropic首席执行官达里奥·阿莫迪主张，政府应拥有阻止或逆转危险人工智能部署的法律权力，并且前沿模型应像汽车、飞机或新药一样接受强制性测试。

在人权理事会的最新通报中，图尔克将这一主题延伸至战场，支持禁止那些无需人类参与即可造成杀伤的武器的呼声。