Ett foto brukade kunna avsluta en diskussion. En inspelad röst eller en video kunde göra ett påstående betydligt svårare att förneka. Generativ AI förändrar den ordningen. När övertygande bilder, röster och filmer kan skapas på kort tid räcker det inte längre alltid att fråga vad vi ser eller hör. Det avgörande blir i allt högre grad var materialet kommer ifrån, hur det har skapats och om andra oberoende bevis pekar åt samma håll.

Det betyder inte att fotografier, ljudklipp och filmer har slutat fungera som bevis. Men deras bevisvärde håller på att förändras.

En bild kan fortfarande vara mycket stark. Ett original från en kamera, med känd källa, korrekt tidslinje och flera oberoende inspelningar från samma händelse kan vara oerhört svårt att förklara bort. Problemet uppstår när ett enskilt klipp dyker upp på sociala medier utan tydligt ursprung och ser tillräckligt realistiskt ut för att kunna vara äkta.

Då finns numera två frågor i stället för en:

Är det falskt material som ser äkta ut?

Eller är det äkta material som någon försöker få oss att tro är falskt?

Den andra frågan kan på sikt bli minst lika viktig som den första.

Deepfakes är inte längre bara dåliga ansiktsbyten

Under deepfake-teknikens första år fanns ofta tydliga visuella fel. Ansikten kunde se onaturliga ut, ögon röra sig konstigt och detaljer kring hår, öron eller tänder avslöja manipulationen.

Den typen av enkla knep blir snabbt mindre användbara.

Generativ AI 2026 kan skapa betydligt mer än ett ansikte som lagts ovanpå en annan person. Tekniken kan användas för att skapa helt syntetiska fotografier, förändra en persons ansiktsuttryck, synkronisera nya ord med munrörelser, klona en röst eller lägga till och ta bort objekt i annars äkta bilder.

En manipulation behöver alltså inte längre vara en helt fabricerad film.

Ett äkta videoklipp kan få ett manipulerat ljudspår. En verklig person kan fås att säga en mening som aldrig yttrades. En bild från en verklig demonstration kan förändras genom att ett föremål eller en person läggs till.

Det gör själva frågan ”är videon äkta?” mindre användbar än tidigare.

En bättre fråga är: vilka delar av materialet kan verifieras?

Människor är inte särskilt bra deepfake-detektorer

Forskningen ger ingen enkel procentsiffra som säger exakt hur bra människor är på att upptäcka de senaste AI-modellerna. Tekniken förändras för snabbt och resultaten varierar kraftigt beroende på vilket material som visas.

Men den övergripande bilden är tydlig.

I en stor metaanalys av 56 tidigare studier med sammanlagt mer än 86 000 deltagare låg människors sammanvägda förmåga att korrekt identifiera deepfakes på ungefär 56 procent.

Det är inte mycket bättre än vad man hade väntat sig av en person som har stora problem att skilja kategorierna åt.

Resultaten varierade samtidigt mellan olika typer av innehåll. För syntetiska bilder låg träffsäkerheten mycket nära slumpnivå, medan video generellt identifierades något bättre.

Det betyder inte att varje modern deepfake lurar nästan hälften av alla människor. Vissa förfalskningar är uppenbara. Andra är extremt svåra.

Det viktiga är att människans syn och hörsel inte kan behandlas som en säker teknisk kontroll.

Rösten kan vara minst lika problematisk som bilden

AI-genererade röster har utvecklats snabbt.

En angripare behöver inte längre spela in en skådespelare som imiterar en politiker eller företagsledare. Med tillräckligt mycket referensmaterial kan en modell skapa nytt tal med en röst som ligger mycket nära originalet.

Forskning på politiska deepfakes visar att sådan syntetisk röst kan vara särskilt svår att avslöja.

I experiment där deltagare fick bedöma verkliga politiska videor och olika typer av deepfakes identifierades de äkta klippen betydligt oftare korrekt än de mest avancerade versionerna där syntetiskt tal användes.

Det är ett viktigt skifte.

Vi är vana vid att vara skeptiska till ett konstigt fotografi. Men ett telefonsamtal, en röstanteckning eller ett videoklipp där både ansikte och röst känns bekanta kan skapa en helt annan känsla av autenticitet.

Ju mindre dramatisk manipulationen är, desto svårare kan den dessutom vara att upptäcka.

En video där någon påstås säga en enda förändrad mening kan i praktiken vara farligare än en extravagant helsyntetisk scen.

Automatiska deepfake-detektorer löser inte problemet

Det naturliga svaret på generativ AI är att bygga mer AI som avslöjar den.

Sådana system finns redan. De analyserar exempelvis mönster i bildpixlar, ansiktsrörelser, ljudvågor, kodning och andra tekniska egenskaper som kan skilja syntetiskt material från kamera- eller mikrofoninspelningar.

Problemet är att en detektor som fungerar mycket bra på testmaterial inte nödvändigtvis fungerar lika bra i verkligheten.

Ett stort real-world-test presenterat 2026 visade kraftiga prestandafall när ledande detektorer ställdes inför deepfakes som faktiskt cirkulerat på nätet.

Materialet omfattade bild, ljud och video från många olika språk och plattformar.

När modellerna lämnade sina vanliga akademiska testdatabaser och mötte verkligt material föll resultaten kraftigt.

Det är egentligen inte så märkligt.

Deepfake-detektorer lär sig känna igen sådant som tidigare generatorer gjort. Sedan kommer nya generatorer, nya komprimeringsmetoder, nya bildformat och nya sätt att redigera filer.

Kapplöpningen fortsätter.

Därför är det riskabelt att tänka sig en framtid där varje bild kan matas in i en app som svarar ”äkta” eller ”AI”.

En detektor kan vara ett viktigt indicium.

Den bör inte vara den enda domaren.

Det stora problemet är inte bara falska bilder

Det mest omvälvande med deepfakes är kanske inte att vi kan luras av något som aldrig har hänt.

Det är att tekniken också gör det lättare att förneka sådant som faktiskt har hänt.

Fenomenet brukar kallas liar’s dividend.

Tanken är enkel.

När trovärdiga förfalskningar existerar får människor som konfronteras med verkliga bevis en ny försvarslinje.

”Det där är AI.”

”Rösten är klonad.”

”Videon är fejk.”

För bara några år sedan krävde ett sådant påstående ofta en betydligt mer komplicerad förklaring. Nu känner nästan alla till att realistiska AI-filmer och röster kan skapas.

Det gör förnekandet mer plausibelt.

Och det gäller även när materialet är helt äkta.

När äkta material blir misstänkt

Forskningen visar att deepfakes inte bara riskerar att skapa felaktig övertygelse. De kan också skapa osäkerhet.

Det är en viktig skillnad.

En manipulerad video behöver inte få människor att tro på ett falskt budskap för att lyckas påverka dem.

Det kan räcka att tittaren tänker:

Jag vet inte längre vad jag ska tro.

Experiment har visat att människor ibland bedömer verkliga politiska videor som deepfakes, särskilt när innehållet är obekvämt för den egna politiska sidan.

Andra studier pekar på att exponering för tydligt AI-genererat material kan göra människor mer misstänksamma även mot verkliga videor.

Det finns däremot ännu inte stöd för att säga att samhället generellt har slutat lita på bilder och filmer.

Det vore en överdrift.

Men riktningen är viktig: själva existensen av välgjorda förfalskningar förändrar hur äkta material tas emot.

Vi riskerar att gå från ”jag såg det” till ”bevisa att du såg det”

Under större delen av fotografiets historia har en bild haft ett särskilt kulturellt värde.

Den har setts som ett spår av något som funnits framför kameran.

Fotografier har naturligtvis alltid kunnat arrangeras, beskäras, manipuleras eller tas ur sitt sammanhang. Men AI förändrar skalan.

Nu kan själva scenen produceras utan att den någonsin funnits.

Det betyder att bevisvärdet gradvis flyttar ut från den synliga bilden och in i informationen runt den.

Vem tog bilden?

Finns originalfilen?

När skapades den?

Vilken kamera eller telefon användes?

Finns andra inspelningar?

Stämmer byggnaderna med platsen?

Stämmer ljuset och vädret?

Finns personer på plats som kan verifiera händelsen?

Det är den typen av frågor som i framtiden kan bli viktigare än om någon tycker att ett ansikte ”ser AI-genererat ut”.

Så verifierar journalister digitalt material

Stora redaktioner har sedan länge arbetat med verifiering av användargenererade bilder och videor.

AI gör metoderna ännu viktigare.

En central del är att försöka hitta materialets ursprung.

Om ett spektakulärt klipp publiceras av hundratals konton betyder det inte att hundratals personer bevittnat händelsen. Alla kan ha kopierat samma film från ett enda okänt konto.

Journalister försöker därför hitta den tidigaste versionen, identifiera fotografen eller personen som laddade upp materialet och få tillgång till originalet när det är möjligt.

Därefter kan uppgifterna jämföras med externa källor.

Syns en kyrka, ett berg eller en väg som går att hitta på kartor?

Stämmer byggnader och gatunät?

Visar väderdata att det faktiskt regnade när filmen påstås ha spelats in?

Stämmer solens riktning med tidpunkten?

Finns satellitbilder eller andra fotografier från platsen?

En enda detalj avgör sällan allt.

Det är mängden oberoende detaljer som tillsammans bygger trovärdighet.

Originalfilen blir allt viktigare

En video som laddats ner från en social plattform är inte samma sak som filen som ursprungligen skapades i kameran.

Sociala nätverk komprimerar material, ändrar filstrukturer och kan ta bort metadata.

Originalfilen kan därför innehålla betydligt mer information.

Den kan ge ledtrådar om vilken enhet som skapat materialet, när filen skapades, hur den kodats och om den senare exporterats från ett redigeringsprogram.

Men inte ens metadata är ett facit.

Metadata kan ändras eller försvinna.

En bedragare kan manipulera tidsuppgifter.

Och ett helt autentiskt kameraoriginal kan fortfarande visa en arrangerad eller missvisande scen.

Det är därför verifiering måste bygga på flera separata lager.

Flera oberoende inspelningar är starkare än ett perfekt klipp

Anta att en politiker påstås ha gjort ett extraordinärt uttalande på ett torg.

Det finns ett högupplöst videoklipp.

Det kan vara övertygande, men det är fortfarande bara en källa.

Om samma händelse samtidigt finns inspelad från fem olika telefoner, från olika vinklar, uppladdade av personer som inte känner varandra, och materialet stämmer överens med plats, tid och andra observationer förändras bevisläget kraftigt.

En AI-förfalskare kan naturligtvis även skapa flera falska klipp.

Men varje ytterligare oberoende informationskälla ökar mängden saker som måste fabriceras konsekvent.

Det är samma grundprincip som används inom mycket annan bevisvärdering.

En enskild uppgift kan vara osäker.

Flera oberoende uppgifter som pekar i samma riktning är betydligt svårare att avfärda.

Polis och domstolar tittar på hela beviskedjan

För polis och forensiska laboratorier handlar digital autentisering inte bara om att titta efter märkliga pixlar.

Bild- och ljudmaterial kan analyseras tekniskt för att undersöka bland annat filstruktur, komprimering, redigeringar, inspelningsutrustning och möjliga manipulationer.

Samtidigt är sammanhanget avgörande.

Varifrån kommer filen?

Vem hade den?

Hur har den överförts?

Finns originalet?

Stämmer uppgifterna med annan bevisning?

I svenska domstolar finns dessutom fri bevisvärdering. Ett videoklipp har alltså inte ett automatiskt bestämt bevisvärde bara för att det är en video.

Domstolen måste bedöma materialet tillsammans med resten av bevisningen.

AI gör den bedömningen mer komplicerad, men principen är egentligen densamma som tidigare.

Ett bevis blir starkare när dess ursprung och sammanhang kan styrkas.

Geografisk verifiering kan avslöja mer än AI-detektorn

En av de mest användbara metoderna för att kontrollera en video är ibland helt oberoende av generativ AI.

Om ett klipp påstås visa en händelse i Stockholm kan byggnader, broar, gatuskyltar, terräng och vägmarkeringar jämföras med kända bilder och kartdata.

En skyline kan placera kameran på en ungefärlig punkt.

Skuggor kan ge ledtrådar om riktning och tidpunkt.

Väder kan jämföras med historiska observationer.

Det här löser inte alla manipulationer.

Men det visar varför framtidens verifiering sannolikt inte kommer att vila på en enda ”deepfake-mätare”.

Det handlar snarare om att rekonstruera händelsen.

C2PA försöker ge digitala filer en dokumenterad historia

En teknisk lösning som fått allt större betydelse är C2PA.

Tanken kan förenklat beskrivas som att ge en bild eller video ett slags digitalt pass.

När en kompatibel kamera eller programvara skapar material kan information om ursprunget registreras och signeras kryptografiskt.

Senare redigeringar kan läggas till i samma kedja.

På så sätt kan det gå att se att en viss fil kommer från en viss enhet eller programvara och vilka dokumenterade förändringar som skett därefter.

Den som vill gå ner på teknisk nivå kan läsa den officiella C2PA-specifikationen.

Det här är fundamentalt annorlunda än en AI-detektor.

En detektor försöker gissa vad en fil är.

Provenienssystem försöker dokumentera var den kommer ifrån.

Kryptografiska signaturer kan visa om kedjan brutits

En central del i sådana system är kryptografiska signaturer och så kallade hashvärden.

En hash fungerar förenklat som ett mycket känsligt digitalt fingeravtryck av en fil.

Ändras filen förändras fingeravtrycket.

Det gör det möjligt att kontrollera att det material som någon visar upp fortfarande motsvarar den signerade versionen.

I ett fungerande ekosystem kan det exempelvis gå att se:

att en bild skapades i en viss kamera,

att den därefter beskars i ett bildprogram,

att färgerna justerades,

och att ingen okänd förändring skett efter den senaste signerade versionen.

Det är betydligt starkare än att försöka avgöra äkthet genom att titta på bilden.

Men C2PA kan inte avgöra vad som är sant

Här finns en avgörande begränsning.

En kryptografisk signatur kan bevisa att en viss enhet eller aktör signerade viss information.

Den kan inte automatiskt bevisa att det som fotograferades representerar verkligheten på det sätt som betraktaren tror.

Anta att någon visar en helt AI-genererad bild på en stor bildskärm.

En kamera med ett perfekt fungerande autenticitetssystem fotograferar skärmen.

Kameran kan då sanningsenligt signera den nya bilden och visa att just den fotograferingen har skett.

Det gör inte motivet på skärmen verkligt.

På samma sätt kan en kamera autentisera en fotografering av en arrangerad scen.

C2PA är därför bättre att tänka på som proveniens än som en sanningsstämpel.

Systemet kan hjälpa oss att följa materialets historia.

Människan måste fortfarande avgöra vad historien betyder.

Vad händer med gamla bilder?

Det finns ytterligare ett uppenbart problem.

Nästan hela världens fotografiska historia saknar moderna kryptografiska provenienskedjor.

Gamla bilder kan inte retroaktivt få ett autentiskt digitalt ursprung från fotograferingstillfället.

Samma sak gäller nya bilder tagna med kameror som inte stöder systemen.

Därför får frånvaron av en digital äkthetsmärkning aldrig bli ett bevis på att en fil är falsk.

Om ett framtida samhälle börjar tänka ”ingen signatur betyder AI” skapar vi ett nytt problem.

Miljarder fullt autentiska fotografier skulle då hamna i en permanent misstankezon.

Skärmdumpar bryter ofta kedjan

Även modernt material kan tappa sin proveniens.

En person kan ta en skärmdump av en bild.

En plattform kan skala bort metadata.

En bild kan exporteras genom ett program som inte bevarar informationen.

Den ursprungliga kryptografiska kedjan kan då saknas i den kopia som senare cirkulerar.

Det betyder inte nödvändigtvis att all information är förlorad. Teknik för exempelvis perceptuella fingeravtryck och andra sätt att återknyta kopior till original utvecklas parallellt.

Men även här gäller samma regel:

Frånvaro av provenance är inte samma sak som bevis på manipulation.

Valåret 2026 gör frågan konkret

Problemet är särskilt laddat i samband med val.

Brasiliens högsta valdomstol har inför valet 2026 tydliggjort hur realistiska AI-manipulationer ska behandlas i valpropaganda.

Det illustrerar hur snabbt en teknisk fråga blivit en demokratisk och juridisk fråga.

Sverige befinner sig samtidigt bara dagar från riksdagsvalet den 13 september.

För den som vill ha den praktiska överblicken finns Hurbra:s stora guide om valet 2026.

Valmyndigheten har varnat för ökade risker för bland annat sabotage och desinformation i det förändrade säkerhetsläget.

Och den 1 september offentliggjorde Myndigheten för psykologiskt försvar resultatet av en kartläggning av ett omfattande botnätverk som använts för informationspåverkan mot Sverige.

Nätverket bestod av omkring 1 200 konton på X och hade stått bakom mer än 50 000 inlägg, kommentarer och delningar under 2025 och 2026.

Det var framför allt ett exempel på AI-stött och automatiserat påverkansarbete, inte ett avslöjat nätverk som huvudsakligen spred deepfake-videor.

Men sambandet är viktigt.

AI gör det billigare både att skapa innehåll och att distribuera det i stor skala.

Det krävs inte en perfekt deepfake för att påverka ett val

En välgjord förfalskning av en partiledare skulle kunna få enorm uppmärksamhet.

Men den behöver inte övertyga hela befolkningen.

Det kan räcka att den sprids snabbt under några timmar.

Det kan räcka att journalister, politiker och väljare börjar diskutera om den är äkta.

Det kan räcka att originalet och dementierna blandas ihop i människors flöden.

Och även när förfalskningen avslöjas kan fragment av det ursprungliga påståendet leva kvar.

Den mest effektiva desinformationen behöver därför inte alltid vara helt trovärdig.

Den kan vara tillräckligt trovärdig för att skapa osäkerhet.

Samhället behöver byta från ”ser äkta ut” till ”går att verifiera”

Det finns en frestande tanke om att tekniken förr eller senare löser sitt eget problem.

När AI blir bättre på att skapa förfalskningar blir AI också bättre på att upptäcka dem.

Kanske.

Men det är sannolikt farligt att bygga hela samhällets bevisförmåga på den kapplöpningen.

Ett mer robust system bygger på flera lager samtidigt:

kända källor,

originalfiler,

dokumenterad beviskedja,

teknisk forensik,

oberoende inspelningar,

plats- och tidsverifiering,

och kryptografisk proveniens när sådan finns.

Ingen av delarna är perfekt.

Tillsammans kan de göra det mycket svårt att fabricera en hel verklighet.

Bilder och video kan fortfarande vara mycket starka bevis

Det är lätt att dra den dystopiska slutsatsen att fotografiets tid som bevis är över.

Så långt har vi inte kommit.

En anonym lågupplöst video på sociala medier är betydligt lättare att ifrågasätta än tidigare.

Men ett original från en känd kamera, med tydlig beviskedja, flera oberoende vittnen, andra inspelningar och omständigheter som går att verifiera kan fortfarande utgöra mycket stark bevisning.

Skillnaden är att samhället inte längre lika enkelt kan nöja sig med själva bilden.

Vi kommer allt oftare behöva bevisa bilden också.

När ögat inte räcker måste beviset bli större än bilden

Generativ AI skapar därför ett märkligt dubbelt problem.

Tekniken gör det möjligt att skapa falska bevis som ser verkliga ut.

Samtidigt gör vetskapen om dessa förfalskningar det möjligt att misstänkliggöra verkliga bevis.

Det är där liar’s dividend blir så viktig.

Det största hotet är kanske inte en framtid där alla tror på allt de ser.

Det kan lika gärna vara en framtid där människor upptäcker att nästan allt går att ifrågasätta och därför väljer den version av verkligheten som passar bäst.

Motmedlet är inte ett perfekt tränat mänskligt öga.

Det är inte heller en enda AI-detektor.

Det är ett samhälle som kan bygga och kontrollera beviskedjor.

När samma händelse stöds av originalfiler, trovärdiga källor, flera oberoende inspelningar, teknisk analys, verifierad plats och tid och dokumenterad proveniens blir verkligheten betydligt svårare att fabricera.

Och betydligt svårare att ljuga bort.