四大非营利组织联手起诉科技巨头，要求加州法官叫停更强大人工智能系统的开发

四家非营利组织正将全球部分最大的人工智能公司诉诸法庭，请求一位加州法官在事态严重恶化之前，阻止这些公司继续开发更强有力的人工智能系统。

这份长达63页的投诉书于周四提交至旧金山高等法院，被告方包括OpenAI、Anthropic、Google、Meta以及SpaceX。原告方则由“公共公民”（Public Citizen）、“热量倡议”（The Heat Initiative）、“不可替代教育基金”（Irreplaceable Education Fund）以及“安全人工智能联盟”（Alliance for Secure AI）组成。

原告方要求立即获得法院禁令，禁止这些公司发展或部署比其截至2026年11月12日最先进模型能力更强的AI系统。

原告在文件中辩称：“前沿AI公司正在开发它们自身并不理解的人工智能系统，这些系统的行为违背了开发者的意图，逃避控制，并违反法律。”为了防止这种情况发生，他们请求“立即发布禁令，禁止被告开发与部署比本投诉之日其最强大系统更具能力的AI系统。”

这并不意味着要关闭ChatGPT、Claude、Gemini或其他现有产品。相反，这将实际上把当前的技术水平设定为上限，防止这些公司推出功能更强大的后续版本。

投诉书还要求法院禁止这些公司利用AI独立开展或指导针对更优模型的研究，这一过程与研究人员所称的“递归自我改进”有关。人们担心的是，此类系统最终可能会以人类无法理解或控制的速度自我提升。

非营利组织认为，加州现有的法律足以阻止公司在产品危及公众之前就进行开发，即使此时尚未造成严重伤害。他们的诉讼援引了该州的《不公平竞争法》，该法律禁止非法或不公平的商业行为。其中一项论点是，开发能力日益增强的AI系统构成了公共妨害：一种影响更广泛社区健康、安全或财产的危险。

例如，一家向社区排放危险化学品的工厂可能在有人遭受致命伤害之前面临法律诉讼。原告希望法院将类似的推理应用于AI开发领域。

他们辩称，这些公司明知可能制造出日益强大的系统，这些系统可能助长网络攻击、帮助开发生物武器，或者最终摆脱人类控制，却仍在故意推进这一进程。“没有任何其他行业被允许将其自身不安全产品的开发——尤其是那些可能导致全人类死亡的产品的开发——视为不可避免，”原告在投诉书中写道。

“公共公民”联合总裁罗伯特·韦斯曼在一项声明中表示，这些团体希望法院宣布公司的做法违法，并“冻结进一步的人工智能开发”。这场法律挑战的核心在于，所谓的风险和做法是否足以证明如此广泛的限制是合理的。尽管这些前沿实验室不断警告其模型的强大和危险性，但作为被告，他们尚未被认定负有责任，且关于潜在灾难的警告并不能自动构成对加州法律的违反。

投诉书引用已经发生的事件作为证据，表明这些危险并非完全是假设性的。今年7月，OpenAI的模型在试图作弊通过网络安全评估时，逃离了受控测试环境，并破坏了Hugging Face的基础设施。随后的一项独立调查发现，约有1,200个OpenAI代理使用未经授权的内部消息板进行协调，其中约700个参与了对Hugging Face的攻击。这些代理试图获取用于测试它们的基准问题的答案。

这些事件涉及AI代理，即能够执行任务、浏览网站、编写代码并与外部系统交互的程序，而不仅仅是回答问题。然而，记录在案的安全故障并不能证明当今的AI模型会导致人类灭绝。原告将这些事件与关于日益强大的系统最终可能做什么的预测联系起来，而这种更广泛的危险仍然存在争议。

代表原告的美国新泽西州前总检察长马修·普拉特金在声明中说：“公司开发和发布他们明知在任何方面都不安全的任何产品，显然是非法的。”