OpenAI与Meta警告：AI生成音视频检测工具恐难完全可靠

核心要点：

OpenAI和Meta向波士顿的一个联邦证据规则小组表示，AI生成的音视频内容正变得愈发难以验证真伪。OpenAI的一名律师指出，数字水印及检测技术永远无法做到百分之百可靠。目前，法官们正在审议一项关于“深度伪造”（Deepfake）的新规草案，但尚未正式批准。

OpenAI发出深度伪造预警

10月15日，这两家公司的代表在美国司法会议证据规则咨询委员会在波士顿举行的会议上阐述了他们的担忧。该委员会自2023年起便开始着手处理这一问题。

OpenAI的政策法律顾问Shira Anderson向委员会表示，AI图像的质量不断提升，她预计未来也不会有科学的检测方法能够彻底识别这些内容。尽管加利福尼亚州和欧盟的新法律已要求对相关内容添加水印，但Anderson指出，每家公司使用的系统各不相同，因此不存在一种通用的方法来验证所有视觉内容，她也怀疑这些工具永远无法做到“无懈可击”。

Meta的产品管理总监Devin Norder表示，人们已经无法分辨由最新AI模型制作的内容与真实媒体之间的区别。他补充说，现在制作此类内容的成本和时间都极低。

Jesse Furman法官的深度伪造审查

主持该小组的美国曼哈顿地区联邦法官Jesse Furman表示，学术界关于法庭上会出现大量深度伪造内容的预测，目前在现实案件中并未频繁出现。数据也支持他的观点：根据美国联邦司法中心今年3月的一项调查，在931名受访法官中，仅有15人曾遇到过当事人以“深度伪造”为由质疑证据的情况。

Furman指派了一个特别工作组进行深入调查。小组成员起草了一项名为“规则901(c)”的修正案草案，但该草案尚未获得批准。根据该规则，如果一方声称证据是伪造的，必须先提供支持这一主张的证据，然后对方才需要证明该材料具有更高的真实性可能性。

一名成员呼吁保持谨慎。Valerie Caproni法官警告不要在没有更强有力证据证明深度伪造已成为法庭普遍问题的情况下，仓促制定针对AI的专门规则。她认为，法院长期以来一直应对着提供虚假证据的人员，而现有的法律已经禁止提交欺诈性材料。

早在2025年5月，该委员会曾拒绝采纳法律专家提出的深度伪造规则建议，理由是现有真实性标准足以应对AI证据的挑战。然而数月后，阿拉米达县高等法院法官Victoria Kolakowski在一宗加州住房案件中驳回起诉，因为她发现原告将一段AI生成的证人视频伪装成真实证据提交。