Tiktoks våldsfilter kan luras med ett enda ord – efter Fagersta kräver ministern förändring
Ord som ”unalive” i stället för ”döda” har blivit ett sätt att försöka kringgå automatiska filter på TikTok. Efter skolattacken i Fagersta växer nu kritiken mot plattformen – samtidigt som en ny P3-granskning visar hur vanliga användare kan få nazistiskt och våldsförhärligande material rekommenderat utan att själva söka efter det.
Problemet är större än ett enskilt förbjudet ord.
TikTok måste först upptäcka innehåll som bryter mot plattformens regler. Om det misslyckas kan samma innehåll därefter hamna i ett rekommendationssystem vars uppgift är att hitta material som får användaren att fortsätta titta.
Det är den kombinationen som nu står i centrum efter attacken på Brinellskolan i Fagersta.
Polisen utreder ett TikTok-konto som publicerade en bild på ett svärd kort före dådet den 21 augusti. Kontot innehöll material kopplat till den så kallade True Crime Community, TCC, en nätmiljö där bland annat massmördare och skolattacker har glorifierats.
Vem som faktiskt drev kontot är ännu inte offentligt fastslaget. Den häktade 18-åringens digitala aktiviteter är en del av utredningen, men det går därför inte att slå fast att kontot var hans.
Attacken har samtidigt satt nytt fokus på både säkerheten i svenska skolor och vilken roll stora sociala plattformar spelar när extremt material sprids till unga.
Det är inte bara ordet ”unalive” som är problemet
SvD:s techanalytiker Björn Jeffery har efter Fagersta pekat på fenomenet ”algospeak”.
Det innebär att användare byter ut ord som de tror kan få ett automatiskt modereringssystem att reagera. ”Unalive” har exempelvis använts i stället för ”kill”, ”die” eller ord kopplade till självmord. Andra känsliga ämnen har fått motsvarande omskrivningar.
Metoden har blivit så etablerad att flera av orden numera nästan fungerar som ett eget språk på sociala medier.
Men det betyder inte att ”unalive” är ett garanterat sätt att komma förbi TikTok.
Modereringssystemen utvecklas kontinuerligt och kan lära sig nya uttryck. När ett nytt kodord börjar upptäckas förändrar användare i stället stavningen igen, använder emojis, bilder, förvrängt ljud eller andra signaler.
Det skapar ett ständigt katt-och-råtta-spel mellan plattformarnas moderering och de användare som försöker undvika den.
Forskning om algospeak har samtidigt visat varför fenomenet är svårt att komma åt. TikTok kan inte bara stoppa varje klipp som innehåller exempelvis ordet ”mord”.
Samma ord kan förekomma i ett nyhetsinslag, en historisk dokumentär, självmordsprevention eller en diskussion om en verklig brottsutredning.
Systemet måste alltså försöka förstå sammanhanget.
Det är betydligt svårare än att hitta ett visst ord.
P3: Vanliga användare matades med extremistiskt innehåll
En granskning från P3 Nyheter visar samtidigt att problemet inte slutar när materialet väl passerat modereringen.
P3 skapade åtta fiktiva användare och följde mer än 10 000 inlägg på TikTok och Instagram under flera månader.
Flera av TikTok-kontona fick nazistiskt och högerextremt innehåll bland sina första hundra videor, utan att användarna hade sökt efter, gillat eller kommenterat den typen av material.
I granskningen innehöll nästan en tredjedel av det politiska material som användarna fick på TikTok inslag av bland annat hat, våldsromantisering, uppvigling eller mycket grova kränkningar.
Det är en viktig skillnad.
Ett modereringssystem kan misslyckas genom att låta ett regelbrott ligga kvar. Ett rekommendationssystem kan därefter göra problemet större genom att aktivt välja ut materialet och visa det för fler människor.
Det är därför kritiken efter Fagersta inte enbart handlar om att TikTok borde ta bort fler enskilda videor.
Den handlar om själva maskinen som bestämmer vad användaren ska se härnäst.
TikTok: Inga system är hundraprocentiga
TikTok avvisar bilden av att P3:s granskning skulle visa hur plattformen fungerar för användare generellt.
Bolagets nordiska kommunikationsansvarige Lukasz Lindell har bland annat pekat på att testet omfattade endast åtta telefoner.
Samtidigt medger TikTok att inga modereringssystem är hundraprocentiga och att det finns användare och grupper som aktivt försöker kringgå dem.
Efter attacken i Fagersta har bolaget också sagt att våld och våldsbejakande extremism inte har någon plats på TikTok och att både teknik och specialiserade team används för att upptäcka och ta bort regelbrytande konton och innehåll.
TikTok uppger dessutom att man samarbetar med polisen och andra myndigheter kring utredningen.
Bolagets egna siffror visar hur enorm modereringsapparaten är.
Mellan juli och december 2025 tog TikTok enligt sin rapportering inom EU:s Digital Services Act bort omkring 112 miljoner innehållsobjekt i EU. Av det material som automatiskt bedömdes bryta mot reglerna hanterades en mycket stor andel utan mänsklig granskning.
TikTok uppger också en mycket hög träffsäkerhet för de automatiska besluten.
Men den siffran besvarar inte den fråga som är central efter P3:s granskning.
En algoritm kan vara mycket träffsäker när den väl identifierar misstänkt material – och samtidigt missa stora mängder innehåll som aldrig flaggas från början.
Forssmed: ”Förändra er i grunden eller försvinn”
Efter Fagersta har socialminister Jakob Forssmed skärpt tonen mot de stora sociala plattformarna.
Elever i Fagersta har enligt ministern fått upp extremt innehåll som kommenterar eller hyllar attacken, trots att de inte själva sökt efter materialet.
Hans besked till plattformarna är drastiskt:
”Förändra er i grunden eller försvinn.”
Forssmed riktar särskilt in sig på rekommendationssystemen och vill åter lyfta frågan med EU-kommissionen.
Den politiska reaktionen efter attacken har varit bred, och även statsminister Ulf Kristersson har deltagit i arbetet efter händelsen i Fagersta. Hurbra har tidigare gått igenom regeringens och partiledarnas reaktioner efter Fagerstadådet.
Regeringen arbetar även med en föreslagen 15-årsgräns för sociala medier i inloggat läge.
Den gränsen är ännu inte beslutad. Förslaget är ute på remiss under hösten 2026.
Och som Forssmed själv har konstaterat hade en sådan åldersgräns inte stoppat en 18-åring.
Sverige kan inte själv tvinga TikTok att bygga om algoritmen
Här finns en viktig begränsning.
En svensk minister kan kritisera TikTok, kalla bolaget till möten och driva på för nya svenska regler.
Men Sverige kan inte på egen hand bestämma hur TikToks stora europeiska rekommendationssystem ska fungera.
Det starkaste verktyget finns i stället i EU:s Digital Services Act, DSA.
TikTok klassas som en mycket stor onlineplattform. Det innebär att EU-kommissionen bland annat kan kräva information om hur systemen fungerar, få tillgång till data, granska algoritmer och utreda om bolaget gör tillräckligt för att hantera så kallade systemrisker.
I allvarliga fall kan kommissionen även kräva förändringar och besluta om böter på upp till sex procent av företagets globala årsomsättning.
EU-kommissionen beskriver själv hur DSA kan användas mot mycket stora plattformar.
Det är därför Forssmed återkommer till Bryssel.
Om problemet är att själva rekommendationssystemet systematiskt leder användare mot skadligt material är det också där de tyngsta juridiska verktygen finns.
Sverige har samtidigt fått nya verktyg
Sverige har egna möjligheter när materialet passerar vissa juridiska gränser.
Sedan den 15 juli 2026 finns exempelvis nya möjligheter att kräva snabb borttagning av nätinnehåll som används för att rekrytera människor till brott.
Det finns också EU-regler som gör det möjligt för polisen att kräva borttagning av terrorisminnehåll.
Men inget av verktygen löser hela TikTok-problemet.
Våldsromantik, glorifiering av en skolattack eller innehåll från extremistiska subkulturer behöver inte automatiskt vara terrorisminnehåll eller brottsrekrytering i juridisk mening.
Ett klipp kan därför vara djupt problematiskt utan att träffa den typ av innehåll som svenska myndigheter snabbt kan beordra en plattform att radera.
Det är också en förklaring till varför diskussionen alltmer flyttas från enskilda inlägg till plattformarnas konstruktion.
Fagersta blir ett test för den europeiska modellen
Det är ännu inte fastställt vilken betydelse sociala medier hade för gärningsmannen i Fagersta.
Det finns heller inget offentligt belägg för att TikTok orsakade attacken.
Den gränsen är viktig.
Men attacken har blottlagt ett problem som redan fanns.
TikTok försöker varje dag sortera enorma mängder innehåll med automatiserade system. Användare försöker samtidigt hitta nya sätt att komma förbi dem. Material som missas kan sedan hamna i ett rekommendationssystem som är byggt för att snabbt upptäcka vad som fångar människors uppmärksamhet.
”Unalive” är därför egentligen bara den enklaste symbolen för problemet.
Den större frågan är om världens största sociala plattformar kan bygga system som inte bara reagerar när ett förbjudet ord dyker upp – utan som förstår när en hel miljö håller på att utvecklas kring våld, extremism och glorifiering av verkliga attacker.
Efter Fagersta kräver den svenska regeringen att TikTok gör just det.