佛罗里达女子因向AI聊天机器人发送威胁言论被捕

上周，佛罗里达州李县警长办公室逮捕了一名涉嫌发出威胁的女子。这次提供线索的并非邻居或家人，而是她正在使用的聊天机器人背后的AI公司。

据WINK新闻报导，来自博尼塔斯普林斯的卡莉·米歇尔·海勒（Carli Michelle Heller）被指控于9月26日和27日在Anthropic公司开发的聊天机器人Claude中输入针对李县警长办公室的威胁信息。其中一条消息称她打算“现在就射杀警长[粗口]”。另一条消息则写道：“这是最后通牒，我受够了。我今天搞到了一把新的[粗口]枪。”

根据逮捕报告，Anthropic的自动安全系统标记了这些信息，人工审核团队随后进行了审查，并将情况上报给执法部门。该逮捕报告的真实性无法独立核实。警员在海勒家中将其拘留，过程未发生冲突。海勒向调查人员表示，她将人工智能当作“日记”来使用。

海勒目前面临佛罗里达州法律下的书面暴力威胁指控，她的出庭日期定于11月。需要指出的是，指控仅为 allegation（指控/说法），在法庭上证明其有罪之前，海勒应被视为无罪。

李县警长卡门·马尔切诺（Carmine Marceno）在一份声明中表示：“人工智能是一种强大的工具，像任何技术一样，它也可能被滥用。当有人利用人工智能制造或协助发出威胁时，我们必须认真对待这些威胁。”他补充道，AI平台的用户“从未真正匿名”。

Anthropic的政策规定

Anthropic的消费者条款规定，公司保留“全权酌情决定”举报有关您的信息的权利，包括将“输入、输出或行为”提交给执法部门。这里的输入和输出分别指用户键入的内容以及Claude回复的内容。

该公司于9月10日更新的隐私政策指出，如果公司有善意相信披露信息是合理必要的，以遵守法律、“防止对任何人或财产造成严重伤害”、“处理欺诈或其他非法活动”，或“执行我们的条款，或保护Anthropic、我们用户或其他人的权利、财产、安全或安全”，则可以将个人数据分享给“政府当局、执法部门或其他第三方”。

该政策的范围不仅限于暴力威胁，还涵盖对财产的损害、一般的非法活动，以及保护Anthropic自身的权利，并允许与执法部门以外的第三方共享。同一政策还指出，被标记的内容可以被“重新识别”以执行公司规则，这意味着原本匿名分析的对话可以追溯回撰写它们的账户。

Anthropic单独的支援页面表示，除非涉及死亡或严重人身伤害的紧急情况，否则公司在回应政府请求释放用户信息之前，要求出示传票、搜查令或其他有效的法律程序。TheStreet Roundtable曾联系Anthropic寻求置评，但在发稿前未收到回复。

其他AI公司的类似政策

OpenAI、Google和Meta的隐私政策中也出现了类似的披露语言。OpenAI曾表示，它会扫描ChatGPT的对话内容，并可能将涉及对他人的严重身体伤害威胁的案件移交给执法部门。

随着越来越多的人使用聊天机器人进行私人对话，这种做法正变得日益显眼。