Elon Musks xAI har fått nej till att tillfälligt stoppa Minnesotas förbud mot teknik som skapar falska nakenbilder av identifierbara personer. Lagen får fortsätta gälla medan rättsstriden pågår. Företaget hävdar att reglerna strider mot yttrandefriheten och tänker överklaga.

Den federale domaren Donovan W. Franks beslut kom den 4 september. För xAI innebär det att bolaget fortsatt måste förhålla sig till en lag som kan medföra mycket höga sanktionsavgifter.

Samtidigt förbereder sig AI-företagen för liknande krav i Europa. EU har redan beslutat om ett särskilt förbud mot vissa AI-system som skapar sexuella bilder utan samtycke, med anpassningsfrist den 2 december 2026.

xAI får inget tillfälligt stopp

Domstolen har prövat xAI:s begäran om en så kallad preliminary injunction, ett tillfälligt beslut som skulle hindra Minnesota från att tillämpa lagen under processen.

Frank ansåg att företaget hade dröjt oskäligt med sin begäran och inte visat tillräcklig risk för irreparabel skada. Avvägningen mellan skadeverkningar och allmänintresset talade tydligt för delstaten.

Det är däremot ingen slutlig dom om lagens förenlighet med den amerikanska grundlagen. Yttrandefrihetsfrågorna ska prövas vidare.

Redan den 31 juli fick xAI nej till ett första brådskande försök att hindra lagen från att träda i kraft. Septemberbeslutet gäller den efterföljande begäran om ett tillfälligt stopp under rättsprocessen.

Förbudet riktas mot tjänsterna bakom bilderna

Minnesotas regler träffar den som äger eller kontrollerar en webbplats, app, programvara eller annan tjänst som låter användare skapa de definierade bilderna, eller skapar dem åt användaren. Även marknadsföring omfattas.

I Minnesotas lagtext definieras nudification som att en bild eller video ändras eller genereras så att en identifierbar person framställs med intima kroppsdelar som inte visas i originalet. Resultatet måste vara så realistiskt att en rimlig betraktare tror att kroppsdelarna tillhör personen.

Personen kan vara identifierbar genom själva bilden eller genom personuppgifter som visas tillsammans med den.

Lagens konstruktion gör företagens tillhandahållande av verktygen till en egen ansvarsfråga. Därmed blir det relevant vilka funktioner användarna får tillgång till och vilka begränsningar tjänsten har.

Samtycke är en del av konflikten

Lagtexten saknar ett uttryckligt undantag för bilder som skapats med samtycke. Det går därför inte att läsa förbudet som om samtycke automatiskt innebär ansvarsfrihet.

Däremot finns ett undantag för verktyg som kräver en betydande individuell teknisk eller konstnärlig insats och mänskligt omdöme. Att en AI-tjänst också kan användas för konst innebär inte i sig att den omfattas av undantaget.

Varför xAI hänvisar till yttrandefriheten

xAI, bolaget bakom Grok och grundat av Elon Musk, hävdar att lagen går för långt. Enligt företagets invändningar är definitionerna otydliga, även bilder med samtycke kan omfattas och företag som försöker förhindra missbruk saknar ett uttryckligt skydd mot ansvar.

Bolaget säger sig dela målet att bekämpa övergreppsbilder. Konflikten gäller hur förbudet har utformats och vad företag kan hållas ansvariga för.

xAI pekar också på möjliga konsekvenser för konst, satir och utbildning. Bolagets argument är att lagen kan begränsa uttryck som skyddas av First Amendment, den amerikanska grundlagens yttrandefrihetsskydd.

Minnesota försvarar reglerna som en avgränsad åtgärd mot skadlig teknik. Delstatens attorney general Keith Ellison framhåller skyddet mot trakasserier, övergrepp och AI-genererat sexuellt övergreppsmaterial.

För lagstiftningen blir precisionen avgörande. Ett förbud behöver kunna fånga de funktioner som används för att kränka verkliga människor, samtidigt som dess gränser måste gå att förstå och tillämpa. Det är just de gränserna som xAI angriper.

Höga sanktionsavgifter och rätt till skadestånd

Lagen ger möjlighet till en civilrättslig sanktionsavgift på upp till 500 000 dollar för varje otillåten åtkomst, nedladdning eller användning. Beloppet är ett tak, ingen automatiskt utdömd avgift.

Beslutet den 4 september innebär inte att xAI har dömts att betala detta belopp.

Den som avbildats kan dessutom väcka en egen civil talan. Möjliga krav omfattar ersättning för psykiskt lidande, ersättning upp till tre gånger den faktiska skadan, ytterligare skadestånd av bestraffande karaktär och skäliga rättegångskostnader. Även förbud och andra rättsliga åtgärder kan begäras.

Det ger den utsatta en möjlighet att rikta krav mot den som brutit mot bestämmelserna. Hur stort ansvar som uppstår måste prövas i det enskilda fallet.

Grok har redan fått regionala begränsningar

Enligt uppgifter som återges i domstolsbeslutet införde xAI den 1 augusti geografiskt riktade begränsningar i Grok Imagines bildredigering för användare i Minnesota. Domaren ansåg att företagets uppgifter om framtida kundförluster var spekulativa.

Anpassningen visar hur lagstiftningen kan påverka en AI-produkt innan den slutliga rättsliga prövningen är färdig. Företaget kan behöva begränsa funktioner under tiden det försöker få reglerna underkända.

För andra AI-tjänster är det en konkret affärs- och utvecklingsfråga: olika marknader kan kräva olika begränsningar. Ett företag kan också välja bredare skydd för att slippa flera regionala lösningar. Det senare är en möjlig följd, inget besked från xAI om en global förändring.

Enligt Reuters har xAI även stämt användare som bolaget anklagar för att ha kringgått dess skydd. Företaget driver därmed också ansvarskrav mot användare parallellt med invändningarna mot delstatens lag.

EU:s förbud börjar tillämpas i december

EU-parlamentet godkände ändringarna i AI-reglerna den 16 juni 2026. Ministerrådet gav slutligt klartecken den 29 juni.

Förbudet omfattar AI-system som genererar sexuellt övergreppsmaterial med barn eller framställer identifierbara personers intima kroppsdelar eller sexuella aktiviteter utan samtycke. Enligt parlamentets beskrivning behöver leverantörer tillräckliga tekniska skydd för att sådana system ska få erbjudas på EU-marknaden. Även användning av systemen för dessa ändamål omfattas.

Företagen har till den 2 december 2026 att anpassa sina system.

EU:s konstruktion skiljer sig från Minnesotas. Samtycke och tillräckliga tekniska skydd anges uttryckligen i den europeiska beskrivningen. Det gör frågan om hur skydden fungerar central för leverantörerna.

För svenska användare och företag är EU-reglerna den direkta kopplingen. Minnesotabeslutet ändrar inte svensk lag och är inte bindande för svenska domstolar. Däremot berör de olika regelverken samma internationella AI-tjänster, vars funktioner kan behöva anpassas på flera marknader.

Spridning av sexuella deepfakes regleras också

EU har dessutom ett separat straffrättsligt regelverk genom direktivet om bekämpning av våld mot kvinnor och våld i nära relationer.

Det kräver bland annat kriminalisering av framställning eller manipulation följd av offentlig spridning av material som ger intryck av att en person deltar i sexuellt explicita aktiviteter. Bestämmelsen gäller när samtycke saknas och gärningen sannolikt orsakar allvarlig skada.

Medlemsstaternas genomförandefrist är den 14 juni 2027. Direktivet ska därför inte tolkas som att det redan ensamt har gjort all privat framställning av sexuella deepfakes straffbar på samma sätt i hela EU.

Förbud mot AI-system, ansvar för spridning och krav på att märka AI-innehåll fyller olika funktioner. En märkning visar att innehåll är framställt eller manipulerat med AI. Den ersätter inte ett nödvändigt samtycke och gör inte en annars förbjuden bild tillåten.

xAI har aviserat att Minnesotabeslutet ska överklagas till Eighth Circuit. Den fortsatta processen får avgöra om lagen håller mot bolagets grundlagsinvändningar.