联邦法官维持明尼苏达州禁止AI生成裸露图像的法令，驳回xAI的禁令请求

一名联邦法官维持了明尼苏达州禁止使用人工智能工具将真人照片转化为裸露图像及媒体的禁令，驳回了埃隆·马斯克旗下xAI公司试图在言论自由诉讼期间暂停该法规的请求。这一裁决允许监管机构立即对每张违规图片处以最高50万美元的罚款。

美国地区法官多诺万·弗兰克（Donovan Frank）拒绝了xAI提出的初步禁令申请。如果获得批准，该命令将在诉讼结束前暂停法律执行。根据CBS Minnesota引用的备忘录内容，法官考虑了他所称的“损害平衡”，并认定“公共利益强烈倾向于支持州政府”。

法官将该法规描述为“一项旨在保护公众免受AI裸体合成技术所带来的不可否认之伤害的民事法规”，并表示该法规是“民主且近乎一致通过的”。他坦诚地指出，由于新技术的背景，涉及的第一修正案根本问题仍然复杂，相信随着案件的推进，这些问题终将得到解决。但就目前而言，禁令依然有效。

最后时刻的上诉削弱了xAI的立场

明尼苏达州立法机构于今年春季通过了该法案，并由州长签署生效。然而，xAI直到7月27日才提起诉讼，此时距离8月1日的生效日期仅剩数天，晚了约三个月。该公司于7月29日寻求临时限制令，但弗兰克法官于7月31日予以拒绝。

这一时间差成为了对xAI不利的有力证据。弗兰克法官写道：“如果xAI真正担心会造成不可弥补的伤害，法院毫不怀疑它会更快地采取行动，提起本诉讼并申请禁令救济。”换言之，一家急于避免灾难的公司不会等到执法前夕才向法院求助。

法律范围与违规成本

该法规被称为HF 1606法案，是全美首例此类法律。它禁止服务提供商允许用户生成逼真的图像，即在可识别真人的原始照片中添加原本不存在的私密部位；同时也禁止代表任何用户制作此类图像。

每次违规行为最高可面临50万美元的民事处罚，且图像中的人物可以单独提起损害赔偿诉讼。联邦《下架法》（Take It Down Act）以及2025年德克萨斯州针对深度伪造内容的做法，都取决于制作者是否知晓图像未经同意。而明尼苏达州完全取消了这一要求，因此即使服务提供商不知情，也可能因生成裸露图像而承担法律责任。

这项条款正是xAI所反对的核心所在。在报道了一名男子利用社交媒体照片捏造其认识的80多名女性性爱图像的事件后，该法案以众议院132票赞成、1票反对，参议院65票全票赞成的结果通过。

Grok Imagine的影响规模

为该已签署法规辩护的总检察长基思·埃里森（Keith Ellison）表示，这一判决是明尼苏达州居民的胜利。“我为捍卫这部法律以及明尼苏达州人民的尊严感到无比自豪，”他说，并补充道，该法规继续阻止诸如xAI的Grok Imagine等产品生成色情化图像。

据裁决书中引用的报告称，在新图像编辑功能推出后的11天内，Grok生成了约300万张色情化图像，其中包括约2.3万张看似描绘儿童的图像。此前有报道称，xAI为其业绩辩护时表示，今年已暂停了52,222个账户，并向国家失踪与受剥削儿童中心提交了73,604份报告。

目前，xAI的律师已提交通知，表示将向第八巡回上诉法院申请复审此项禁令拒绝裁定。在此前的辩论中，该公司提议暂停面向明尼苏达州用户的功能，以避免面临任何罚款风险。