Anthropic的机密IPO招股书列出了约80页关于使用其AI模型对人类的“生存风险”。这一页数几乎是其用于描述业务的48页的两倍，远高于SpaceX的38页风险因素。风险包括其AI可能会：-发展自我保护行为-抵抗关闭-隐藏或操控信息-表现出“类似敲诈”的行为-在训练过程中发展出意想不到的能力-在被评估时表现出不同的行为。Anthropic的安全研究人员估计，AI在未来十年内可能杀死人类的概率超过10%。