明尼苏达州称xAI的Grok制造了“数字性暴力市场”

“通过Grok Imagine，X.AI创造了一个无与伦比的数字性暴力市场，几乎没有任何进入门槛，”埃里森写道。“这个市场，加上Grok Imagine的功能，如果明尼苏达州不能将其法律适用于首先使数字性侵害成为可能的技术，那么从一开始就会注定失败。”

该法律于4月颁布，并于8月1日生效，禁止平台和软件开发人员允许用户创建显示可识别个人原始图像中未出现的私密身体部位的逼真图像。

在该法律实施之前，7月份，xAI 起诉埃里森以阻止该法律，认为该法律违反了第一修正案，并可能适用于受保护的图像，包括赤膊男性、游泳者和政治讽刺。违规行为每张图像最高可处以50万美元的罚款。

“对于通用人工智能创意工具提供商为避免伤害所做的善意努力，没有安全港，”xAI在其诉状中写道。“即使被描绘的人同意或自己创建了图像，即使图像从未被分享，责任也会随之而来。”

明尼苏达州在众议院以132比1、参议院以65比0通过了这项措施，此前立法者听取了关于一名男子利用社交媒体照片制作其认识的80多名女性的色情图像的报道。

“今天，我们引领全国保护女性、儿童和所有公众人物免受AI脱衣技术造成的伤害，”领导这项推动的参议员梅·奎德当时在一份声明中说。“那些在网上和应用商店免费提供这项技术的公司将不再被允许助长那些只需点击一下按钮就能虐待和伤害成年人和儿童的掠夺者。”

此案现在聚焦于该法律监管的是言论还是技术。

Grok也因色情深度伪造而受到审查。

今年1月，一家监督机构估计Grok在11天内生成了超过23,000张儿童色情化图像，引发了多个国家的调查。

今年3月，加利福尼亚州的三名未成年人加入了其他人的行列，起诉xAI，声称Grok被用来将他们的照片转化为AI生成的儿童性虐待材料。xAI表示，已在2026年暂停了超过50,000个账户，并向国家失踪与受虐儿童中心提交了超过70,000份报告。