概要

  • xAI 周一根据第一修正案起诉明尼苏达州总检察长基思·埃里森,以阻止 HF 1606——美国第一部针对 AI 脱衣平台的立法,该法将于 8 月 1 日生效。
  • 该法对每张图片处以最高 50 万美元的民事罚款,且没有安全港条款,即使平台积极禁止和过滤脱衣尝试也不例外。
  • 明尼苏达州以众议院 132 票赞成、1 票反对,参议院 65 票赞成、0 票反对的结果通过了 HF 1606,此前一名男子利用社交媒体照片制作了他认识的 80 多名女性的色情图像。

埃隆·马斯克的 AI 公司 xAI 周一提起联邦诉讼,起诉明尼苏达州总检察长基思·埃里森,以阻止美国第一部针对 AI“脱衣”——即使用人工智能数字移除或修改真实人物真实照片中衣物的软件——的立法,称其是“一项过于宽泛、基于内容的言论自由和视觉表达工具禁令,笨拙地试图禁止脱衣行为”。

该法为 HF 1606。它规定,如果用户生成真实人物的逼真图像,显示这些人从未暴露的身体部位,则任何平台均需承担严格责任——无论是否知情或有意,均需承担法律责任。每生成一张图像,每次违规最高可罚款 50 万美元。

这份提交至美国明尼苏达地区地方法院的诉状并非为脱衣行为辩护。诉状称:“xAI 因此不质疑明尼苏达州禁止未经同意传播人工智能生成的真实人物裸体图像的权益。但该州颁布的法规远远超出了这一目标,使大量受保护的言论面临民事责任和政府制裁。”

xAI 声称,问题在于明尼苏达州如何定义该术语。根据诉讼,该州借用了刑事性接触法规中的“私密部位”——该法规针对的是未经同意的触摸,而非图像生成。根据该定义,大腿内侧、臀部或乳房均同等适用。生成一名赤膊政客、一名穿泳装女性或一名在海滩上的公众人物的逼真 AI 图像——即使是为了政治讽刺——也可能触发该法并招致罚款。

根据 xAI 的论点,平台无处可逃。诉状称:“通用 AI 创意工具提供商为避免伤害而做出的善意努力没有安全港。即使被描绘的人同意——或自己创建了图像——甚至图像从未被分享,责任依然存在。”

此外,也没有“明知”(知道不法行为)的要求——用户绕过公司自身过滤器仍然使公司根据该法承担全部责任。

仅在 2026 年,该公司就暂停了超过 50,000 个账户,并向 NCMEC(国家失踪与受虐儿童中心)提交了超过 70,000 份报告,导致至少 244 人被捕。但这些都不能成为 HF 1606 下的辩护理由。

更广泛的背景很重要。Grok 的图像工具在 2025 年 7 月底推出后几乎立即陷入麻烦,只需简单的文本提示就能生成深度伪造——即真实人物的 AI 生成合成图像——这引发了欧洲、澳大利亚和美国多个州的监管调查。像巴尔的摩这样的城市和三名田纳西州未成年人分别就 Grok 的深度伪造输出起诉了 xAI。该公司还在 4 月以类似的第一修正案理由挑战了科罗拉多州的 AI 法律

明尼苏达州以众议院 132 票赞成、1 票反对,参议院 65 票赞成、0 票反对的结果通过了 HF 1606 法案,此前一名男子利用社交媒体照片生成了他认识的 80 多名女性的性图像。该法案在参议院的推动者、参议员 Erin Maye Quade 证实,法律对同意图像的禁令是“有意的”。

联邦《TAKE IT DOWN 法案》——由唐纳德·特朗普总统于 2025 年 5 月签署——已经涵盖了未经同意的亲密深度伪造,但要求证明未经同意和实际传播,使用了更狭窄的身体部位定义,并包括教育和医疗内容的例外。xAI 认为明尼苏达州本应采用该模式。

司法部长埃里森并不退缩。“AI 脱衣剥夺了目标人物的尊严,并可能在情感、个人和职业层面造成巨大伤害,”他在诉讼提起后表示。

HF 1606 将于周六生效。xAI 希望联邦法官在此之前阻止它。