Kurzfassung
- Minnesota wehrt sich gegen den Versuch von xAI, das landesweit erste Gesetz zu blockieren, das KI-generierte sexuelle Bilder ins Visier nimmt.
- xAI argumentiert, das Gesetz verstoße gegen den Ersten Verfassungszusatz, während Minnesota entgegnet, Grok Imagine sei ein technologisches Werkzeug und keine geschützte Rede.
- Der Bundesstaat beschuldigte xAI, einen "beispiellosen Marktplatz für digitale sexuelle Gewalt" geschaffen zu haben, während ein Bundesrichter sich darauf vorbereitet, den Fall am Mittwoch zu verhandeln.
Minnesota kämpft gegen Elon Musks xAI wegen des Versuchs des Unternehmens, HF-1606 zu blockieren, ein landesweit erstes Gesetz, das KI-Werkzeuge ins Visier nimmt, die realistische sexuelle Bilder von identifizierbaren Personen erzeugen.
In einer Gerichtsakte vom Freitag argumentierte der Generalstaatsanwalt von Minnesota, Keith Ellison, dass xAI bei seiner verfassungsrechtlichen Anfechtung wahrscheinlich keinen Erfolg haben wird und nicht nachgewiesen hat, dass die Durchsetzung des Gesetzes einen irreparablen Schaden verursachen würde.
„Mit Grok Imagine hat X.AI einen beispiellosen Marktplatz für digitale sexuelle Gewalt geschaffen, der praktisch keine Einstiegshürden bietet“, schrieb Ellison. „Dieser Marktplatz, gepaart mit den funktionalen Fähigkeiten von Grok Imagine, würde Minnesota von vornherein zum Scheitern verurteilen, wenn es seine Gesetze nicht auf die Technologie ausrichten könnte, die digitale sexuelle Viktimisierung überhaupt erst ermöglicht.“
Das Gesetz, das im April verabschiedet wurde und am 1. August in Kraft trat, verbietet Plattformen und Softwareentwicklern, Nutzern die Erstellung realistischer Bilder zu ermöglichen, die intime Körperteile zeigen, die im Originalbild einer identifizierbaren Person nicht vorhanden waren.
Vor der Umsetzung des Gesetzes verklagte xAI im Juli Ellison, um das Gesetz zu blockieren, mit der Begründung, es verstoße gegen den Ersten Verfassungszusatz und könne auf geschützte Bilder angewendet werden, darunter oberkörperfreie Männer, Schwimmer und politische Satire. Verstöße werden mit Strafen von bis zu 500.000 US-Dollar pro Bild geahndet.
„Es gibt keinen sicheren Hafen für gutgläubige Bemühungen des Anbieters allgemeiner KI-Kreativtools, Schäden zu vermeiden“, schrieb xAI in seiner Beschwerde. „Die Haftung greift selbst dann, wenn die abgebildeten Personen zugestimmt haben – oder das Bild selbst erstellt haben – und selbst wenn das Bild nie geteilt wird.“
Minnesota verabschiedete das Gesetz mit 132-1 im Repräsentantenhaus und 65-0 im Senat, nachdem Abgeordnete von einem Mann gehört hatten, der Social-Media-Fotos nutzte, um sexuelle Bilder von mehr als 80 Frauen, die er kannte, zu erstellen.
„Heute haben wir die Nation angeführt, um Frauen, Kinder und alle im öffentlichen Leben vor den Schäden zu schützen, die durch KI-Entkleidungstechnologie verursacht werden“, sagte Senatorin Maye Quade, die die Initiative leitete, damals in einer Erklärung. „Unternehmen, die diese Technologie kostenlos online und in App-Stores anbieten, dürfen nicht länger zulassen, dass Täter, die Erwachsene und Kinder missbrauchen und viktimisieren, dies mit einem Klick tun.
Der Fall dreht sich nun darum, ob das Gesetz Sprache oder Technologie reguliert.
Grok ist ebenfalls wegen sexuell expliziter Deepfakes unter Beschuss geraten.
Im Januar schätzte eine Aufsichtsorganisation, dass Grok in 11 Tagen mehr als 23.000 sexualisierte Bilder von Kindern erzeugte, was Ermittlungen in mehreren Ländern auslöste.
Im März schlossen sich drei Minderjährige in Kalifornien anderen an, um xAI zu verklagen, mit der Behauptung, Grok sei verwendet worden, um ihre Fotos in KI-generiertes Material sexuellen Kindesmissbrauchs zu verwandeln. xAI hat erklärt, dass es im Jahr 2026 mehr als 50.000 Konten gesperrt und mehr als 70.000 Meldungen beim National Center for Missing and Exploited Children eingereicht hat.
