Fireworks澄清数据保留政策争议:Notion AI聊天记录泄露事件始末
Fireworks在一份声明中指出,其开放模型推理的输入和输出数据仅在处理过程中存在于易失性内存中,而不会记录在永久存储介质上。然而,当Notion AI的聊天记录在Fireworks的安全事故数据集中被发现后,“数据不保留”承诺的适用范围成为了公众关注的焦点。
CEO林超(Lin Qiao)的解释与比喻
14日,Fireworks首席执行官林超(Lin Qiao)在一篇公开文章中写道:“将文件上传到云存储与在计算器中输入数字是完全不同的两回事。”这一比喻旨在说明,对于批量处理任务(Batch Jobs),数据集必须由客户自行删除。与普通推理不同——普通推理是发送问题后立即获得答案,而批量处理则是先上传数据集,随后再获取结果。
数据处理文档的具体规定
根据Fireworks官方数据处理文档,开放模型的输入和生成数据仅在处理期间存在于易失性内存中,不会写入永久存储。不过,如果用户使用提示词缓存(Prompt Cache),部分输入及相关数据可能会在易失性内存中保留几分钟;此外,为了服务运营,请求令牌数等元数据会被记录。
由于批处理API以数据存储为前提,因此不属于普通推理“无保留”政策的范畴。林超明确表示,批量数据将在客户将其删除之前一直保留。
Responses API与企业级无保留策略
默认设置为store=true的Responses API会将对话数据保留长达30天。Fireworks文档指出,若请求中设置store=false,则可防止保存对话数据。企业客户可以开启适用于整个账户的“无保留策略”。该策略默认关闭,一旦激活,系统将拒绝任何存储客户内容(如批量作业或数据集上传)的请求和操作。Fireworks账户政策文档确认,此设置仅限企业账户提供。
值得注意的是,即使开启了无保留策略,系统中已存在的响应、数据集及上传模型也不会自动删除。Fireworks在文档中明确强调,现有资料需由用户单独执行删除操作。
Notion的安全事故与应对措施
2日,Notion收到Fireworks的通知,称有恶意行为者访问了部分资料。经分析,当时的数据集包含的是Notion AI的合成测试材料,而非真实的客户对话。
3日,Notion切断了与Fireworks系统的连接。次日,Notion删除了存储在Fireworks系统中的自身数据。6日,在获悉客户数据可能被访问后,Notion展开了进一步调查。
8日,Notion在收到的最终数据集中发现了用于Insights功能的Notion AI聊天记录。Notion表示,受影响的工作区占总数不到1%,且大多数记录未显示作者或工作区信息,也不包含工具调用结果。此前已有报道指出Notion AI聊天记录被纳入侵犯数据范围。Notion的事故通知中还包含了指导受影响客户审查相关记录的方法。
Notion曾利用Fireworks提供的开放权重模型来支持其Insights功能(用于分类成员AI使用状况)。在此次事件中,Notion暂停了Insights功能,并停止了通过Fireworks提供的开放权重模型服务。
责任界定与后续调查
Notion解释称,其与Fireworks约定的“无保留范围”仅适用于为生成AI响应而发送给外部模型提供商的API请求。对于像聊天记录或Insights这样需要存储请求和响应以提供功能的场景,则不在该承诺的适用范围内。
为了进行Insights分析,Notion向Fireworks发送了存储的请求和响应。Notion指出,尽管Fireworks在合同中承诺对此类用途保持无保留,但在调查过程中发现,数据仍残留在Notion使用的Fireworks端点上。
9日,Firewalls在安全公告中表示,部分客户的数据集和不完整的模型权重受到了影响。目前尚未在普通推理、Training SDK和Nexus中发现影响,但调查仍在进行中。两家公司的公开文件中均未明确指出Notion的聊天记录具体留在了Fireworks的哪个存储功能中,相关内容亦包含在Fireworks的安全公告中。
Firewalls还宣布,在调查期间暂停了自助式数据集上传和下载功能,这些功能通常用于批处理推理和基于数据集的训练。目前,Notion正指导受影响客户在其工作区的“安全事件审查”(Security incident review)中查看相关记录。