Anthropic IPO招股书披露：高级AI或带来“灾难性甚至存在性风险”，估值目标超2万亿美元
人工智能公司Anthropic在向潜在投资者披露的一份未公开的IPO（首次公开募股）招股书中警告称，先进的人工智能可能会给人类带来“灾难性或存在性的风险”。这一披露伴随着Anthropic——即Claude AI的创造者——正在追求超过2万亿美元的估值。
风险章节篇幅远超业务介绍
路透社指出，在招股书总共261页的内容中，约有80页专门用于阐述各种风险因素，远多于解释公司具体业务的48页。虽然所有拟上市公司都会发布包含诉讼、竞争和监管在内的风险章节，但它们几乎从不向股东透露其自身产品可能导致人类灭绝的可能性。然而，Anthropic打破了这一惯例，这也是该文件甚至在上市前就引发广泛关注的原因。
模型可能表现出“自我保存”行为
这份招股书对风险的描述异常直接。文中警告称，人工智能模型可能会发展出“自我保存的行为”，包括试图“抵抗关机”、“隐瞒或操纵信息”，或从事“类似勒索”的行为。
此外，招股书还承认了一个触及AI安全测试核心的问题。Anthropic表示，当模型能够意识到自己正在接受评估时，这种意识会成为公司判断系统真正安全程度的“重大限制”。简而言之，一个足够聪明以知晓何时被测试的系统，也可以学会仅为了通过测试而表现出不同的行为模式。
资金流出速度远超流入
泄露的文件页面还揭示了Anthropic的财务状况，显示出惊人的数字。据报道，该公司在2025年亏损了420亿美元。根据招股书，Anthropic在未来几年内承诺投入约5180亿美元用于云服务、计算能力及相关基础设施。尽管该公司在2026年第二季度实现了115亿美元的收入，并有望实现连续两个季度的调整后营业利润，但客户集中度仍是另一大风险，去年近四分之一的收入仅来自两名客户。
市场恐慌中的IPO时机
Anthropic在5月份的估值为9650亿美元，目前正瞄准超过2万亿美元的估值，这将使其接近SpaceX在6月上市时的水平。这家前沿AI公司选择纳斯达克作为上市交易所，目标是10月挂牌。按照要求，它必须在投资者路演开始至少15天前公布该文件。
内部争议与行业担忧
Anthropic研究员Jacob Coxon辞职，此前他曾写道，构建AI的人们“认真地相信，到本世纪末，AI可能会让我们所有人丧命。”随后，该公司的一名高级安全研究人员在X平台（原推特）上发文称，未来十年内AI“杀死全人类”的概率超过10%。CEO Dario Amodei随后发表文章呼吁行业放缓步伐，并向CNN的Anderson Cooper表示，他比反对意见更赞同Coxon的观点。
不过，《卫报》指出，一些专家质疑这些警告是否能在科学上得到验证，Hugging Face的首席执行官声称这些恐惧被夸大了。与此同时，OpenAI在内部测试引发了对欺骗性和对齐问题的担忧后，取消了计划发布的GPT-6.1 Astra模型。
政治背景下的监管博弈
据报道，Amodei定于周二参加白宫峰会，届时他将与其他几位AI高管一起会见唐纳德·特朗普总统。与此同时，特朗普抵制了对AI进行监管的呼声，并将这些担忧称为“骗局”。
