明尼蘇達州稱xAI的Grok打造「數位性暴力市場」

「透過 Grok Imagine，X.AI 創造了一個無與倫比的數位性暴力市場，幾乎沒有任何進入門檻，」艾里森寫道。「這個市場，加上 Grok Imagine 的功能，如果明尼蘇達州無法將其法律應用於首先使數位性侵害成為可能的技術，那麼從一開始就會注定失敗。」

該法律於四月頒布，並於8月1日生效，禁止平台和軟體開發者允許用戶創建顯示可識別個人原始圖像中未出現的私密身體部位的逼真圖像。

在該法律實施之前，xAI 於7月起訴艾里森，要求阻止該法律，認為該法律違反了第一修正案，並可能適用於受保護的圖像，包括赤膊男性、游泳者和政治諷刺作品。違規行為每次圖像最高可處以50萬美元的罰款。

「對於通用人工智慧創意工具的提供者為避免傷害所做的善意努力，沒有安全港，」xAI 在訴狀中寫道。「即使被描繪的人同意或自己創建了圖像，即使圖像從未分享，責任仍然存在。」

明尼蘇達州在眾議院以132比1、參議院以65比0通過該法案，此前議員們聽取了關於一名男子利用社交媒體照片為他認識的80多名女性製作性圖像的報告。

「今天，我們引領全國保護女性、兒童以及所有公眾人物免受AI脫衣技術造成的傷害，」主導該法案的參議員梅·奎德當時在一份聲明中表示。「那些在網上和應用商店免費提供這項技術的公司，將不再被允許助長那些只需點擊一下按鈕就能虐待和侵害成年人與兒童的掠奪者。」

此案現在的核心在於該法律是監管言論還是技術。

Grok也因生成露骨的性深度偽造內容而受到審查。

今年1月，一家監督機構估計Grok在11天內生成了超過23,000張兒童性化圖像，引發多個國家的調查。

今年3月，加州的三名未成年人加入其他人的行列，起訴xAI，指控Grok被用來將他們的照片轉換成AI生成的兒童性虐待材料。xAI表示，他們已在2026年暫停了超過50,000個帳戶，並向國家失蹤與被剝削兒童中心提交了超過70,000份報告。