W skrócie
- Minnesota walczy z próbą zablokowania przez xAI pierwszego w swoim rodzaju stanowego prawa wymierzonego w obrazy generowane przez AI o charakterze seksualnym.
- xAI twierdzi, że prawo narusza Pierwszą Poprawkę, podczas gdy Minnesota argumentuje, że Grok Imagine jest narzędziem technologicznym, a nie chronioną mową.
- Stan oskarżył xAI o stworzenie „bezkonkurencyjnego rynku cyfrowej przemocy seksualnej”, podczas gdy federalny sędzia przygotowuje się do rozpatrzenia sprawy w środę.
Minnesota walczy z xAI Elona Muska w związku z próbą zablokowania przez firmę HF-1606, pierwszego w swoim rodzaju stanowego prawa wymierzonego w narzędzia AI generujące realistyczne obrazy seksualne rozpoznawalnych osób.
W piątkowym wniosku sądowym prokurator generalny Minnesoty Keith Ellison argumentował, że xAI prawdopodobnie nie odniesie sukcesu w swoim wyzwaniu konstytucyjnym i nie wykazał, że egzekwowanie prawa spowodowałoby nieodwracalną szkodę.
„Dzięki Grok Imagine, X.AI stworzyło niezrównany rynek cyfrowej przemocy seksualnej, który nie stawia praktycznie żadnych barier wejścia” – napisał Ellison. „Ten rynek, w połączeniu z funkcjonalnymi możliwościami Grok Imagine, skazałby Minnesotę na porażkę od samego początku, gdyby nie mogła skierować swoich przepisów na technologię, która w ogóle umożliwia cyfrową wiktymizację seksualną”.
Ustawa uchwalona w kwietniu, która weszła w życie 1 sierpnia, zabrania platformom i twórcom oprogramowania umożliwiania użytkownikom tworzenia realistycznych obrazów przedstawiających intymne części ciała, które nie występowały na oryginalnym obrazie możliwej do zidentyfikowania osoby.
Przed wdrożeniem ustawy, w lipcu, xAI pozwala Ellisona, aby zablokować ustawę, argumentując, że narusza ona Pierwszą Poprawkę i może dotyczyć chronionych obrazów, w tym mężczyzn z gołym torsem, pływaków i satyry politycznej. Naruszenia grożą karami do 500 000 dolarów za każdy obraz.
„Nie ma bezpiecznej przystani dla działań podejmowanych w dobrej wierze przez dostawcę ogólnego przeznaczenia narzędzi kreatywnych AI, mających na celu uniknięcie szkód” – napisało xAI w swojej skardze. „Odpowiedzialność powstaje nawet wtedy, gdy przedstawione osoby wyraziły zgodę – lub same stworzyły obraz – a nawet jeśli obraz nigdy nie został udostępniony”.
Minnesota przyjęła ustawę stosunkiem głosów 132-1 w Izbie Reprezentantów i 65-0 w Senacie, po tym jak ustawodawcy wysłuchali doniesień o mężczyźnie, który wykorzystał zdjęcia z mediów społecznościowych do stworzenia seksualnych obrazów ponad 80 znanych mu kobiet.
„Dziś poprowadziliśmy naród w ochronie kobiet, dzieci i wszystkich osób publicznych przed szkodami wyrządzanymi przez technologię AI do rozbierania zdjęć” – powiedziała wówczas w oświadczeniu senator Maye Quade, która przewodziła tej inicjatywie. „Firmy, które udostępniają tę technologię za darmo w internecie i w sklepach z aplikacjami, nie będą już mogły umożliwiać drapieżnikom, którzy wykorzystują i krzywdzą dorosłych i dzieci jednym kliknięciem przycisku”.
Sprawa skupia się teraz na tym, czy prawo reguluje mowę, czy technologię.
Grok również spotkał się z kontrolą w związku z jawnie seksualnymi deepfake'ami.
W styczniu organizacja monitorująca oszacowała, że Grok wygenerował ponad 23 000 seksualizowanych obrazów dzieci w ciągu 11 dni, co skłoniło do wszczęcia dochodzeń w kilku krajach.
W marcu troje nieletnich w Kalifornii dołączyło do innych w pozwie przeciwko xAI, twierdząc, że Grok został użyty do przekształcenia ich zdjęć w materiały przedstawiające wykorzystywanie seksualne dzieci generowane przez AI. xAI poinformowało, że zawiesiło ponad 50 000 kont i złożyło ponad 70 000 zgłoszeń do National Center for Missing and Exploited Children w 2026 roku.
