亚洲财经

☰ 搜索

Sentient发布首个开放基准测试,检验AI模型能否证明其来源(10月20日)

应对AI模型抄袭与篡改:Sentient Foundation发布指纹识别排行榜

2026年10月20日,加利福尼亚州旧金山——近日,研究人员发现,他们测试过的几乎所有指纹识别方法(包括Sentient自身的方法)都能被规避。为此,全新的“指纹识别排行榜”(Fingerprinting Leaderboard)将公开测试哪些技术能够真正抵御复制、微调、蒸馏和攻击。

训练一个AI模型的成本高达数百万美元,然而一旦模型被复制、微调或蒸馏为另一个模型,证明其来源便变得异常困难。Sentient的研究团队最近对十种旨在解决该问题的提议技术进行了测试,结果发现,在保持模型有用性的前提下,几乎全部技术均可被足够复杂的攻击者所规避。这其中甚至包括了Sentient自身的指纹识别方法。

现在,Sentient基金会正在推出“指纹识别排行榜”,这是一个开放基准测试,旨在衡量哪些方法真正有效、对模型性能的影响程度,以及最终其指纹能否在移除尝试中幸存下来。

日益紧迫的所有权难题

随着更多强大的AI模型被发布、微调、蒸馏和重新包装,这一问题正变得愈发重要。模型权重可以被复制,元数据可能消失,导致开发者难以通过可靠的方式证明其他模型源自他们的工作。

指纹识别提供了一种不同的思路:将所有权证明嵌入到模型本身之中。

“AI模型正逐渐成为世界上最宝贵的知识产权之一,但一旦模型被复制或蒸馏,证明所有权就变得极其困难,”Sentient基金会风投与增长总监Sachi Kamiya表示,“指纹识别将证明置于模型内部。你可以将其视为文艺复兴时期画家用来确立作者身份的隐藏标记的AI等价物。”

模型内部的隐藏签名

由Sentient Labs及其他领域研究人员开发的模型指纹识别技术,是指创建、发现或验证与模型相关的独特信号的技术,从而允许日后测试其身份或谱系。

Sentient自身的方法是在训练过程中嵌入隐藏的行为签名。随后,所有者只需拥有疑似衍生模型的API访问权限,通过发送秘密挑战提示词并检查其响应,即可测试原始模型是否仍留有痕迹。

简而言之,模型携带了其来源的证据。

“这个标记是在训练期间编码的行为签名,随后通过揭示可疑模型是否仍携带原始模型痕迹的挑战提示词进行验证,”Sentient Labs AI研究员Eduardo Contente指出。

这创造了AI历史上一直缺乏的东西:可以从模型本身进行验证的模型溯源,而不仅仅依赖于日志、元数据或外部调查。

单个模型中的24,576个指纹

Sentient研究人员已经证明,指纹识别的能力远超早期方法。

其在NeurIPS 2025上展示的Perinucleus方法,以极小的效用损失在Llama-3.1-8B中嵌入了24,576个指纹,其中许多指纹在后继的微调中得以幸存。

这种规模至关重要。更多的指纹意味着更强的统计置信度、更多的溯源验证机会,以及在模型被复制或分发时具有更高的韧性。

但规模只是问题的一半。更难的问题是,这些指纹能否在有人试图主动移除它们时幸存下来。

Sentient尝试破坏指纹,包括其自身方法

Sentient Labs的最新研究表明,许多现有的指纹识别和水印方法仍然容易受到复杂攻击者的侵害。

在SaTML 2026上发表的研究中,Sentient研究人员针对十种最近提出的指纹识别方案构建了自适应攻击,发现几乎全部方案均可被足够复杂的对手规避,同时保持模型的有用性。这其中包括Sentient自己的Perinucleus方法。

Sentient并没有隐藏这些弱点,而是公开发布了它们。

“指纹识别排行榜”旨在将这种对抗过程转化为一个开放的基准测试。其首个版本评估不同技术在嵌入指纹而不降低模型性能方面的有效性。即将发布的版本将增加对抗鲁棒性测试,检验这些指纹在故意移除或规避尝试中的生存能力。

目标很简单:指纹不仅要在研究基准测试中幸存,还要在有人试图摧毁它时幸存。

向研究社区开放测试

除了排行榜外,Sentient还发布了mlprints,这是一个开源库,将指纹识别技术和攻击纳入统一的评估框架。

研究人员可以实施新方案、开发新攻击、复现现有结果,并在共同条件下比较各种方法,随着领域的进步不断优化。

指纹识别排行榜旨在与研究社区共同演进,将模型指纹识别转变为一种开放的测试环境,使关于鲁棒性的声明能够被独立评估,而非仅仅被接受。

开源模型无需放弃所有权

指纹识别有助于解决开源AI面临的最棘手问题之一。

如今,构建者往往面临两难选择:保持模型权重封闭以维持控制,或者公开释放权重并失去对其被复制和重用情况的可见性。

指纹识别引入了另一种可能性。与其阻止复制,不如在复制发生后创建模型来源的证据。这种证据最终可以支持归属权、许可执行、经济保证以及围绕可验证模型溯源建立的其他系统。

通过使模型溯源可验证,Sentient的指纹识别研究和指纹识别排行榜旨在创建一个开放的AI生态系统,在该系统中,模型可以共享和基于此构建,而创作者不必自动丧失证明技术来源的能力。

更长远的目标是更具挑战性:打造一个与模型能力紧密绑定的指纹,以至于移除它会同时损害模型本身。

可验证的知识产权。了解你的模型。