比尔·盖茨警告：AI企业不应自我监管，敦促华盛顿制定安全法规

微软联合创始人比尔·盖茨（Bill Gates）发出警告，认为不应允许人工智能（AI）企业进行自我监管，并敦促美国政府制定相关的安全法规。他在9月25日接受NBC新闻采访时阐述了这一观点，该采访的完整版本随后在《会见媒体》（Meet the Press）节目中播出。

盖茨发出此番警告之际，高盛（Goldman Sachs）预测全球AI投资将在2026年突破1万亿美元大关。这意味着，新的安全监管规定可能会对致力于实施新安全系统以执行规则的开发者、投资者和相关公司产生重要影响。

“没有人认为自我监管是足够的”

当主持人克里斯滕·韦尔克尔（Kristen Welker）询问国会是否需要采取行动时，盖茨回应道：“绝对如此。”他表示：“没有人认为自我监管是足够的。”他认为，立法者和执法机构应制定明确的法律，规定AI公司如何监控风险以及必须采取哪些保障措施。他将这些责任描述为开发者身上“一点点的负担”，而非阻碍进步的绊脚石。

他的担忧远超出了通常意义上的滥用问题。盖茨在接受NBC采访时表示，AI“确实拥有足以引发导致十亿人丧生事件的威力”，尤其是当这些先进系统落入别有用心者手中时。

行业领袖们对于安全措施应延伸到何种程度持有不同意见。Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）提出了“全面放缓，甚至‘暂停’”的概念，将其视为最极端的集体减速方式。OpenAI首席执行官山姆·奥特曼（Sam Altman）也表达了类似的担忧，他认为“保持节奏的成本是值得的”，并且不应以竞争压力为借口而鲁莽行事。

然而，Meta首席执行官马克·扎克伯格（Mark Zuckerberg）持相反观点。他在接受NBC新闻采访时称：“我认为我们不需要某种形式的行业协调。”他倾向于让实验室仅在感到面临安全风险时才放慢脚步。

盖茨希望管理风险，而非 halted 开发

盖茨并非仅仅要求科技部门停止开发AI系统。他在8月发表于其博客《盖茨笔记》（Gates Notes）的一篇文章中指出，人工智能“要么成为有史以来最伟大的均衡器，要么成为最不公正的来源”。

他还表示，他可能会支持一项可信的全球AI发展放缓计划，但他并不确信此类计划会有效，因为出于经济和政治原因，持续开发具有强大的动力。

因此，他的立场不仅仅是终止新的发展，而是让企业、政府和个人做好准备，以便在AI技术应用于医疗、法律、软件和客户服务等领域时能够妥善应对。

等待规则落地的万亿美元市场

关于安全措施的辩论正在资金涌入AI领域的同时展开，这使得任何新规 stakes 变得更高。高盛预计，到2026年全球AI投资将超过1万亿美元，其中美国约占5810亿美元，而自2022年以来的累计投资到年底可能接近1.8万亿美元。

尽管AI投资大幅增长，但微软指出，并非所有人都能平等地享受其优势和利益。微软的AI扩散数据显示，全球北方和全球南方之间存在日益扩大的差距，而经合组织（OECD）强调，AI能力仍局限于少数国家和企业。

这使得监管成为一种更加困难的平衡艺术。更好的保护措施可以降低风险，但对于小型实验室和较不富裕的国家来说，遵守这些法规的额外成本可能难以承受。

随着安全支出和监管加速，AI投资突破1万亿美元

监管拼贴画正在形成

越来越多的证据支持对更严格监管的呼吁。由图灵奖得主约书亚·本吉奥（Yoshua Bengio）指导、由100多位领域专家共同撰写的《2026年国际AI安全报告》，描述了现有危险以及AI系统能力增强带来的潜在未来威胁。

与此同时，各国政府已经开始围绕这些风险制定法规。根据TRM Labs的报告，随着各国采取不同的AI治理、实施和责任追究方法，一个新的全球AI监管“拼贴画”正在形成。

欧洲联盟比其他大多数国家更积极地推进此类目标的实施。根据《欧盟AI法案》，通用AI提供商必须在文档、版权以及训练数据的透明度方面遵守严格义务。使用超过10^25 FLOP算力的模型被视为存在系统性风险，这需要满足额外的模型评估、风险管理、事故报告和网络安全标准。

随着监管的增加，企业试图合规所花费的金额也在上升。根据Gartner的数据，到2027年，组织用于保障AI的支出将增加68.7%，达到近48亿美元，预计到2028年将接近77亿美元。

华盛顿似乎也在向更强大的监管框架迈进。参议院谈判代表正在研究一项两党倡议，为AI开发者建立“注意义务”，这可能使政府能够阻止不安全模型的发布。如果获得批准，这将把盖茨敦促的保护机制从自愿义务的领域转移到具有法律约束力的责任领域。