Anthropic beskriver hur företagets AI-modell Claude har använts i allt från utveckling av raketer och autonoma drönarsvärmar till en Rysslandskopplad cyberkampanj mot Ukraina. Den nya hotrapporten visar hur avancerad AI nu kan bli en operativ del av både vapenutveckling och cyberkrig.

AI:s säkerhetsrisker har länge diskuterats som något som kan bli ett problem i framtiden. Anthropics senaste rapport ger en betydligt mer konkret bild.

Företaget redovisar verkliga fall där Claude har använts för att skriva programvara till vapensystem, analysera misslyckade rakettester, koordinera autonoma drönare och genomföra delar av cyberoperationer mot ukrainska mål.

Samtidigt har modellen förekommit i avancerad biologisk forskning med möjlig militär dubbelanvändning.

Anthropic uppger också att flera kinesiska AI-bolag systematiskt har försökt kopiera Claudes förmågor i mycket stor skala.

AI används inne i operationerna

Den kanske viktigaste slutsatsen från Anthropics rapport är att AI inte längre enbart används för att ge råd eller svara på tekniska frågor.

I flera av de fall som företaget har upptäckt har AI-systemet blivit en del av själva arbetsprocessen.

Område	Så uppger Anthropic att Claude användes
Cyberattacker	Kartläggning, phishing, intrång, bearbetning av stulen data och förändring av skadeprogram
Vapenutveckling	Raketer, drönarsvärmar, anti-torpedsystem och elektronisk krigföring
Biologisk forskning	Avancerad forskning som även skulle kunna stödja biologisk vapenutveckling
AI-konkurrens	Storskalig kopiering av Claudes resonemangs-, kodnings- och agentförmågor

Anthropic skriver att en majoritet av cyberoperationerna i rapporten innehöll direkt exekvering eller orkestrering av AI.

Människor fanns fortfarande kvar i kedjan och valde exempelvis mål eller granskade resultat. Men delar som tidigare krävt betydligt mer manuellt arbete kunde automatiseras.

Det är där förändringen blir säkerhetspolitiskt intressant.

Rysslandskopplad cyberkampanj mot Ukraina

Ett av rapportens största fall gäller en cyberoperation som Anthropic betecknar GTG-20006.

Företaget bedömer att aktiviteten överensstämmer med tidigare offentlig rapportering om Midnight Blizzard, den grupp som amerikanska myndigheter har kopplat till den ryska underrättelsetjänsten SVR.

Anthropic slår däremot inte fast att man själv definitivt har bevisat vem som stod bakom operationen.

Målen omfattade ukrainska myndigheter, militära organisationer och diplomatiska verksamheter. Fler än 20 organisationer förekom enligt rapporten i planering eller verkliga operationer.

Angriparna kartlade även e-postsystem och fjärråtkomst hos fler än två dussin ukrainska statliga organisationer.

Även företag kopplade till drönarindustrin angreps.

Vid ett av intrången ska angriparna ha kommit över ett komplett utvecklingspaket för ett system för datorseende till drönare. Materialet analyserades sedan med hjälp av Claude.

AI användes också för att hantera delar av själva attackkedjan.

Claude hjälpte bland annat till med kartläggning, phishinginfrastruktur, intrång, stöld av information och analys av stora mängder insamlad data.

En särskilt uppseendeväckande del gäller skadeprogrammen.

Angriparna byggde enligt Anthropic en process där AI kunde övervaka om säkerhetssystem upptäckte deras kod. När en variant upptäcktes kunde AI hjälpa till att ändra, bygga om och distribuera skadeprogrammet på nytt.

Det innebär i praktiken att AI kunde användas för att snabba upp katt-och-råtta-spelet mellan angripare och försvarare.

Utvecklingen ligger nära den bredare förändring vi tidigare beskrivit kring hur EU testar GPT-6 Astra och Mythos 5 för cyberhot. Samma agentliknande förmågor som används i försvar och säkerhetsanalys kan också utnyttjas offensivt.

Claude användes för raketutveckling i Jemen

Anthropic har identifierat sex fall där Claude kopplats till konventionell vapenutveckling eller närliggande verksamhet.

Tre av fallen fanns i Kina, två i Ryssland och ett i Jemen.

Fallet i Jemen är ett av de tydligaste exemplen på hur långt användningen gått.

En grupp i norra Jemen arbetade enligt Anthropic med en styrd raket, en flerstegsraket med ett uttalat räckviddsmål på över 2 000 kilometer och ett system där en variant skulle kunna använda en hypersonisk glidfarkost.

Claude Code användes till delar av styr-, navigerings- och kontrollmjukvaran.

Gruppen använde flera Claude-instanser med olika uppgifter. En kunde arbeta med kod, en annan med research och en tredje med granskning.

Det handlade alltså inte bara om att fråga en chatbot hur en raket fungerar.

AI:n användes som en del av utvecklingsarbetet.

Gruppen genomförde även ett verkligt test av en styrd raket.

Testet verkar ha misslyckats.

Inom några timmar återvände användarna till Claude för att försöka analysera vad som gått fel.

Anthropic har inte sett belägg för att gruppen lyckades skapa ett fungerande operativt vapensystem. Däremot hade den byggt ett eget simuleringsverktyg som kunde användas vidare utan Claude.

Området där aktiviteten ägde rum kontrolleras av Huthirörelsen, men Anthropic identifierar inte själv användarna som huthier. Det går därför inte att slå fast att det var rörelsen som låg bakom projektet.

Autonom drönarsvärm skulle kunna välja människor som mål

Ett annat fall är knutet till en mindre Rysslandsbaserad grupp.

Den använde Claude Code för att utveckla en autonom svärm av FPV-drönare avsedd för kamikazeuppdrag.

AI hjälpte till med bland annat koordineringen mellan drönarna, målsökning och den sista styrningen mot ett mål.

Det mest allvarliga är hur systemet var tänkt att fungera.

En modell ombord på drönaren skulle enligt Anthropic kunna välja mål ur flera kategorier. En av kategorierna var människor.

Systemet var konstruerat så att detonationskommando skulle kunna ges utan att en människa behövde fatta det sista beslutet.

Gruppen använde även riktig utvecklingshårdvara och laddade firmware på enheterna under tester.

Material från striderna i Ukraina användes för att träna datorseendet och Donetskregionen förekom i simuleringar.

Anthropic bedömer dock gruppen som ett mindre frilanskollektiv och inte som en rysk statlig organisation.

Gruppen hävdade själv att den hade finansiering från bland annat Rysslands försvarsdepartement, men Anthropic kunde inte verifiera den uppgiften.

Kinesiska projekt för anti-torpeder och elektronisk krigföring

Även Kina förekommer på flera ställen i rapporten.

I ett fall ska Claude ha använts för delar av ett anti-torpedsystem och för att ta fram en teknisk offert på mer än 200 sidor.

Anthropic bedömer att aktören hade koppling till kinesisk försvarsindustri och försökte ta fram material till den kinesiska flottan, men företaget kunde inte identifiera den exakta organisationen.

Ett annat Kina-baserat projekt använde Claude för omkring 16 olika programmoduler inom elektronisk krigföring och bekämpning av luftförsvar.

Systemet arbetade med att analysera radar, luftvärn, ledningsplatser och kommunikationsnoder och kunde rangordna vilka mål som borde prioriteras.

Under arbetets gång ändrades ett simulerat scenario till tolv mål på Taiwan. Där ingick bland annat luftvärn, flygbaser och en ledningsbunker.

Metadata pekade enligt Anthropic mot forskningsmiljöer med koppling till bland annat PLA Academy of Military Sciences.

Fem fall med biologisk forskning

Rapporten innehåller också fem fall där Claude använts i biologisk forskning som enligt Anthropic skulle kunna bidra till biologisk vapenutveckling.

Här krävs en viktig skillnad.

Anthropic säger inte att man har hittat fem biologiska vapenprogram.

Forskarna är verkliga forskare och samma metoder kan användas för helt legitima ändamål, som vaccin och läkemedelsutveckling. Företaget säger uttryckligen att det inte vet om de berörda användarna hade någon avsikt att orsaka skada.

Ett av fallen gällde en forskningsansökan om chikungunyavirus med fokus på bland annat smittsamhet och möjligheten att undvika immunförsvaret. Enligt materialet skulle forskningen genomföras vid ett militärt forskningsinstitut.

Ett annat fall rörde högpatogen fågelinfluensa och hur virus skulle kunna anpassas till däggdjur.

Claude användes under flera veckor till bland annat forskningsplanering, dataanalys och prioritering av experiment.

Anthropic bedömer samtidigt att den faktiska kapacitetsökningen där var begränsad eftersom företagets säkerhetsfilter styrde användaren mot svagare modeller.

Ytterligare fall omfattade ortopoxvirus och arbete kring toxiner.

Anthropic varnar för riskerna men skriver samtidigt att fallen inte visar att ett AI-förstärkt biologiskt hot är nära förestående.

Alibaba pekas ut för 151 miljoner Claude-utbyten

Rapporten beskriver också en helt annan typ av konflikt.

Anthropic anklagar sju Kina-baserade AI-laboratorier för så kallad otillåten distillation, där ett AI-system används för att generera stora mängder svar som sedan kan hjälpa till att träna eller förbättra en konkurrerande modell.

Alibaba pekas ut för den klart största aktiviteten.

Anthropic tillskriver bolaget mer än 151 miljoner Claude-utbyten mellan maj och juli. När trafiken var som högst handlade det om nästan tre miljoner utbyten per dag.

Tusentals konton ska ha använts.

Enligt Anthropic försökte aktörerna bland annat kopiera Claudes resonemang, kodning och agentliknande förmågor för att förbättra Qwen-modeller.

Moonshot tillskrivs mer än 23 miljoner utbyten och DeepSeek över 12,1 miljoner under en period på bara 14 dagar.

Anthropic hävdar dessutom att Moonshot och DeepSeek i vissa fall skickade sina användares frågor vidare till Claude utan att användarna kände till det.

Det skulle enligt företaget kunna innebära att känslig information från företag, myndigheter och privatpersoner hamnade hos Anthropic.

Även Xiaomi, Zhipu, SenseTime och MiniMax pekas ut.

Flera av företagen hade inte svarat på anklagelserna när den internationella rapporteringen publicerades. Kinas utrikesdepartement uppgav att det inte kände till rapporten och sade att Kina motsätter sig vad man beskrev som förvrängningar och smutskastning.

Från chatbot till operativ arbetskraft

Anthropics rapport ska läsas med en viktig reservation.

Det är företagets egna loggar, analyser och attribueringar som ligger till grund för slutsatserna. Utomstående har inte tillgång till hela det interna material som Anthropic bygger sina bedömningar på.

Men rapporten visar samtidigt en tydlig förändring.

Frågan är inte längre bara om en AI-modell kan svara på en farlig teknisk fråga.

I de mest avancerade fallen används AI i stället som programmerare, analytiker och automatiserad arbetskraft mitt inne i verkliga projekt och operationer.

Det är samma förskjutning som gjort diskussionen om AI-agenter och vad som händer när de får större handlingsfrihet allt mer relevant.

När Claude hjälper till att analysera ett misslyckat rakettest, förändra skadeprogram efter upptäckt eller skriva kod till autonoma drönarsvärmar blir avståndet mellan AI-modellen och den fysiska konsekvensen betydligt kortare.

I sin fullständiga hotrapport beskriver Anthropic därför också ett kapplöpningstillstånd. Modellerna blir mer kapabla samtidigt som både kriminella, militära och statligt kopplade aktörer försöker hitta sätt att använda dem.

Det är kanske den viktigaste slutsatsen.

Avancerad AI har redan lämnat stadiet där säkerhetsdiskussionen bara handlar om vad systemen teoretiskt skulle kunna göra. I flera av Anthropics fall används de redan operativt.