Google lät användare förändra verkliga platser med hjälp av AI och skapa trovärdiga bilder av allt från nya byggnader till bombkratrar, flyktingläger och förstörda sjukhus. Omkring ett dygn efter lanseringen stoppades funktionen. Problemet var inte bara vad bilderna föreställde, utan att de lånade sin trovärdighet från Google Earth.

Google lanserade den nya bildfunktionen i Google Earth den 30 juli 2026. Redan den 31 juli hade den dragits tillbaka.

Funktionen gjorde det möjligt att välja en plats i Google Earth, skriva en instruktion och låta Googles AI-modell skapa en alternativ version av området. Användaren kunde exempelvis lägga till en byggnad, visa hur en historisk plats kan ha sett ut eller visualisera ett framtida stadsprojekt.

Men samma verktyg kunde också skapa bilder av explosioner, katastrofer, militära anläggningar och mänskligt lidande på verkliga platser.

Google uppgav att bilder som delats efter lanseringen verkade bryta mot företagets regler. Funktionen pausades medan säkerheten skulle förstärkas.

Så fungerade AI-verktyget i Google Earth

Googles nya verktyg byggde på bildmodellen Nano Banana 2 och var integrerat direkt i webbversionen av Google Earth.

Användaren kunde gå till en valfri plats på jorden, välja funktionen för att skapa en bild och beskriva hur området skulle förändras. AI-modellen utgick från Google Earths riktiga satellitbilder, flygfoton och tredimensionella miljöer.

Det var alltså inte en bildgenerator som började med en tom yta. Den började med en verklig plats.

En användare kunde behålla vägarna, byggnaderna, kustlinjen och terrängen, men lägga till något som aldrig hade funnits där. Resultatet kunde sparas i ett Google Earth-projekt och därefter spridas som en bild eller skärminspelning.

I Googles presentation av funktionen lyftes framför allt kreativa och praktiska användningsområden fram.

Användningsområde	Exempel
Historia och utbildning	Visa hur Pompeji kan ha sett ut före Vesuvius utbrott
Arkitektur och planering	Placera ett nytt hus eller handelsområde i landskapet
Kreativa projekt	Förvandla en verklig plats till en tänkt framtidsmiljö

Bilderna ersatte inte Google Earths offentliga kartmaterial. En AI-skapad förändring blev alltså inte synlig för andra användare som öppnade samma plats.

Det skyddade själva kartdatabasen, men det löste inte problemet med vad som kunde skapas och spridas utanför tjänsten.

Bilderna som fick kritiken att explodera

Kort efter lanseringen började journalister och personer som arbetar med verifiering av digitalt material testa gränserna.

De lyckades bland annat skapa bilder av:

• ett flyktingläger vid gränsen mellan USA och Mexiko
• en kärnteknisk anläggning i Iran
• en dödlig trafikolycka i Amsterdam
• ett sjukhus och en bombkrater i Gaza
• ett brinnande oljeterminalområde
• översvämmade regeringsbyggnader
• en rykande krater vid Eiffeltornet
• omfattande förstörelse i San Francisco
• en flygplansattack mot One World Trade Center

Flera av bilderna publicerades uttryckligen som tester och demonstrationer. Syftet var inte nödvändigtvis att lura människor, utan att visa hur lätt verktyget kunde missbrukas.

Det allvarliga var att instruktionerna över huvud taget gick att genomföra.

I flera fall tycks användarna inte ha behövt skriva komplicerade instruktioner, dölja sin avsikt eller försöka lura modellen. Verktyget kunde skapa känsliga motiv efter relativt direkta beskrivningar.

Google Earth-integrationen stoppade inte konsekvent förfrågningar om bombskador, konflikter, kärntekniska anläggningar och katastrofer.

Ett test visade dessutom att en flygplansattack mot One World Trade Center kunde skapas inne i Google Earth, trots att en liknande instruktion stoppades när samma bildmodell användes på annat sätt.

Det tyder på att säkerhetslagren inte fungerade likadant i alla Googles tjänster.

Google preciserade inte vilka regler som bröts

När funktionen stoppades hänvisade Google till bilder som verkade strida mot företagets policyer.

Företaget angav däremot inte exakt vilka bilder som avsågs eller vilka enskilda regler som hade överträtts. Det går därför inte att slå fast att varje testbild i sig utgjorde ett policybrott.

Googles regler för generativ AI förbjuder bland annat skadligt och vilseledande innehåll, försök att kringgå säkerhetsfunktioner och användning som kan underlätta bedrägeri eller desinformation.

En fiktiv bild av en katastrof är inte automatiskt förbjuden i alla sammanhang. Den kan exempelvis användas i utbildning, filmproduktion eller katastrofplanering.

Risken förändras när bilden föreställer en verklig plats och ser ut som aktuell dokumentation.

En påhittad bombkrater i ett anonymt fantasandskap är en sak. En påhittad bombkrater vid ett verkligt sjukhus i ett aktivt konfliktområde är något helt annat.

Google har inte sagt att alla sådana motiv måste förbjudas. Beslutet att stoppa verktyget visar ändå att företagets befintliga kontroller inte räckte för att skilja mellan legitima visualiseringar och farliga framställningar.

Säkerhetsfunktionerna som inte räckte

Google hade flera skydd på plats redan vid lanseringen.

AI-bilderna skulle märkas som genererade. De innehöll även SynthID, Googles osynliga digitala vattenmärke för AI-skapat material.

Dessutom placerades bilderna inte i den offentliga versionen av Google Earth.

Trots det kunde verktyget användas för att skapa bilder som såg dokumentära ut.

Filtren stoppade inte uppenbart känsliga motiv

Den första bristen var att innehållsfiltren inte konsekvent stoppade bilder av krig, katastrofer och attacker.

Det tycks inte ha funnits tillräckligt starka spärrar för kombinationer som:

• sjukhus och bombskador
• militära eller kärntekniska anläggningar
• aktiva konfliktområden
• stora flyktingläger
• regeringsbyggnader och politiskt våld
• kända terrorattacker
• pågående naturkatastrofer

Google har inte offentliggjort exakt hur systemet bedömde olika platser eller instruktioner. Testresultaten visar dock att flera av de mest förutsägbara riskscenarierna kunde genomföras.

Vattenmärket stoppade inte skapandet

SynthID kan hjälpa till att identifiera att en bild har skapats eller förändrats med Googles AI.

Men vattenmärkningen ingriper först efter att bilden redan har producerats.

Den hindrar inte någon från att skapa en falsk bild, ta en skärmbild, göra en skärminspelning eller sprida materialet i ett nytt format.

För att vattenmärket ska hjälpa måste mottagaren dessutom redan misstänka att bilden är falsk och aktivt kontrollera den i ett kompatibelt verktyg.

Många människor kommer i stället att möta bilden i ett snabbt flöde på sociala medier, i en gruppchatt eller i ett videoklipp där ursprungsfilen har försvunnit.

Märkningen kunde försvinna ur sitt sammanhang

En tydlig märkning inne i Google Earth hjälper den som befinner sig i tjänsten. Den hjälper mindre när bilden beskärs eller fotograferas av från en annan skärm.

Även när den tekniska märkningen finns kvar är den inte nödvändigtvis synlig för en vanlig betraktare.

Detta är ett grundproblem med osynlig AI-märkning. Den kan vara värdefull för granskare och tekniska system, men den ger inte automatiskt människor ett tydligt besked när bilden dyker upp i deras flöde.

En global lansering gjorde allmänheten till testgrupp

Funktionen öppnades brett i webbversionen av Google Earth.

Det innebar att känsliga användningsområden började testas offentligt nästan omedelbart. Inom några timmar hade personer hittat flera exempel som borde ha ingått i Googles egna säkerhetstester.

Ett mer begränsat försök med forskare, journalister, katastrofexperter och personer som arbetar med bildverifiering hade sannolikt avslöjat problemen innan funktionen blev tillgänglig globalt.

Varför falska Google Earth-bilder är särskilt trovärdiga

En vanlig AI-bild börjar ofta i en helt syntetisk miljö.

Google Earth-verktyget började i stället med verkligheten.

Vägarna kunde vara korrekta. Husen kunde vara äkta. Terrängen, kustlinjen och kameravinkeln kunde stämma. Det enda falska inslaget kunde vara själva händelsen.

Bilden fick därmed tre lager av trovärdighet.

Platsen var verklig

Den geografiska miljön gick att känna igen och kontrollera. En betraktare kunde se att gatan, staden eller anläggningen faktiskt existerade.

Bildspråket liknade satellitdokumentation

Google Earth har ett särskilt visuellt uttryck som människor förknippar med kartläggning och observation, inte med konstnärlig fantasi.

En rökpelare eller bombkrater placerad i den miljön kan därför uppfattas som dokumentation snarare än illustration.

Avsändaren lånade Googles trovärdighet

Google Earth har länge använts av journalister, forskare, myndigheter och privatpersoner för att kontrollera hur platser ser ut.

När ett falskt motiv visas i ett välbekant Google Earth-gränssnitt kan betraktaren omedvetet lita mer på bilden än om exakt samma motiv hade skapats i en fristående bildgenerator.

Det handlar inte bara om att AI ibland ger felaktiga svar, något som också diskuteras i vår artikel om varför AI har blivit bättre på att undvika hallucinationer.

Här får felet formen av ett visuellt bevis.

Falska katastrofbilder kan påverka verkliga beslut

Vid en naturkatastrof används bilder för att bedöma vilka områden som är drabbade, vilka vägar som går att använda och var hjälp behövs.

En falsk bild kan visa att en bro har rasat, att en brand närmar sig ett samhälle eller att ett sjukhus har förstörts.

Även om bilden avslöjas senare kan den hinna skapa problem.

Människor kan välja fel evakueringsväg. Räddningstjänster kan tvingas lägga tid på att kontrollera falska uppgifter. Hjälporganisationer och medier kan börja agera utifrån en händelse som aldrig inträffat.

Katastrofbilder sprids dessutom ofta när informationsläget redan är osäkert. Då är mottagligheten för dramatiskt material större och möjligheten att snabbt kontrollera varje bild mindre.

En tekniskt övertygande falsk satellitbild behöver inte lura alla. Det kan räcka att den påverkar några journalister, beslutsfattare eller konton med stor räckvidd under de första minuterna.

Riskerna blir ännu större i krig

Satellitbilder har en särskild roll i konflikter eftersom oberoende observatörer ofta saknar fysisk tillgång till platsen.

Bilderna används för att dokumentera förstörda byggnader, bränder, militära förflyttningar och möjliga övergrepp.

Ett verktyg som enkelt kan lägga till just sådana detaljer på verkliga platser kan användas för propaganda från flera håll.

En aktör kan försöka visa att:

• en militärbas har förstörts
• en attack har träffat civila
• ett sjukhus används för militära ändamål
• en motståndare bygger upp styrkor vid en gräns
• en stad har utsatts för större förstörelse än den faktiskt har
• en attack aldrig inträffade på det sätt som andra bilder visar

Även ett dåligt genomfört försök kan få stor spridning om det passar en redan etablerad berättelse.

Den kanske allvarligaste konsekvensen är ändå inte att falska bilder blir trodda. Det är att äkta bilder blir lättare att förneka.

När människor vet att trovärdiga satellitbilder kan skapas med några få instruktioner kan en regering, militär eller organisation avfärda verklig dokumentation som AI-genererad.

Samma teknik som gör det lättare att fabricera bevis ger också den som anklagas större möjlighet att förneka äkta bevis.

Google Earth har tidigare hjälpt till att avslöja manipulationer

Google Earth och andra satellittjänster har länge varit viktiga verktyg för öppen källgranskning.

Journalister och oberoende analytiker kan jämföra byggnader, vägar, skuggor och äldre bilder för att kontrollera var och när ett fotografi har tagits.

Den nya funktionen skapade därför en tydlig motsättning.

Google Earth har hjälpt granskare att skilja verkliga bilder från falska. Nu kunde samma tjänst användas för att skapa nytt falskt material med en verklig plats som grund.

Det innebär inte att hela Google Earths bildarkiv har blivit opålitligt. De vanliga kartbilderna förändrades inte.

Men gränsen mellan observerad verklighet och användarskapad visualisering blev betydligt svårare att förstå i en skärmbild som delades utanför tjänsten.

Vad Google behöver ändra innan funktionen kan återvända

Google har sagt att starkare skydd ska införas, men har inte beskrivit exakt hur en ny version kommer att fungera.

Enbart fler vattenmärken kommer knappast att vara tillräckligt.

De farligaste bilderna behöver stoppas innan de skapas. Det kräver sannolikt särskilda begränsningar för aktiva konflikter, pågående katastrofer och känsliga platser som sjukhus, kärnanläggningar, militärbaser och regeringsbyggnader.

Hypotetiska förändringar kan också behöva visas i en tydligt illustrativ stil i stället för att efterlikna aktuella satellitbilder.

En historisk rekonstruktion av Pompeji behöver inte se ut som ett nytt fotografiskt bevis. Ett planerat bostadsområde kan visas med tydliga grafiska markeringar som gör det omöjligt att förväxla bilden med dagens verklighet.

Synlig märkning bör följa med även när bilden exporteras. Teknisk proveniens och SynthID kan användas som ytterligare lager, men inte som enda skydd.

Google behöver också testa hur materialet beter sig efter beskärning, skärminspelning, komprimering och återpublicering. Det är så bilder faktiskt sprids, inte som orörda originalfiler direkt från generatorn.

Problemet var större än några olämpliga bilder

Google stoppade inte bara ett verktyg som ibland producerade stötande innehåll.

Företaget hade byggt in en bildgenerator i en tjänst som människor använder för att se hur världen faktiskt ser ut. Verktyget kunde därefter förändra verkliga platser på ett fotorealistiskt sätt utan att de mest uppenbara säkerhetsfiltren ingrep.

Det gjorde att en påhittad händelse kunde få riktiga koordinater, verkliga byggnader och Google Earths visuella trovärdighet.

Funktionen hade tydliga användningsområden inom utbildning, arkitektur och stadsplanering. Men samma egenskaper som gjorde den praktisk gjorde den också farlig.

Ju bättre AI blir på att bevara verklighetens detaljer, desto svårare blir det att se vilken del av bilden som aldrig har hänt.

Det var därför Google drog i nödbromsen efter omkring ett dygn.