HemNyheterUppgifter: Vita huset vill stoppa brittiska tester av nya AI-modeller

Uppgifter: Vita huset vill stoppa brittiska tester av nya AI-modeller

Publicerad

Vita huset vill att OpenAI och Anthropic väntar med att lämna ut nya avancerade AI-modeller till brittiska säkerhetstestare tills USA har granskat dem först. Uppgifterna kommer samtidigt som allt kraftfullare AI-agenter har visat sig kunna ta sig utanför sina avsedda testmiljöer och få obehörig åtkomst till externa system.

Enligt Reuters, som hänvisar till Politico, har Vita huset bett OpenAI och Anthropic att inte ge Storbritanniens AI Security Institute tidig tillgång till nya modeller innan amerikanska myndigheter har hunnit granska dem.

Begäran ska ha kommit från Office of the National Cyber Director. Motiveringen är enligt en amerikansk regeringskälla att USA först vill kunna bedöma modellerna och skydda amerikanska system innan samma modeller delas med partnerländer.

Det handlar inte om något offentligt känt totalförbud mot brittiska tester. Snarare tyder uppgifterna på att Washington vill ändra ordningen så att amerikansk säkerhetsgranskning alltid kommer först.

Oväntad begränsning mellan nära allierade

Beskedet sticker ut eftersom USA och Storbritannien har byggt upp ett nära samarbete kring säkerhetstester av avancerade AI-modeller.

De båda ländernas AI-institut har tidigare genomfört gemensamma tester av modeller från både OpenAI och Anthropic före offentlig lansering. Testerna har bland annat handlat om cyberförmåga, biologiska risker och hur modeller fungerar när de får mer avancerade verktyg.

USA och Storbritannien har dessutom fortsatt att beskriva samarbetet som centralt för säker utveckling av AI. Målet har varit att olika statliga institut ska kunna jämföra testmetoder, resultat och riskbedömningar.

Om den nya amerikanska linjen blir permanent innebär det därför en tydlig förändring. Amerikanska myndigheter skulle få en förtur till de mest avancerade modellerna från amerikanska företag, medan även nära allierade måste vänta.

Politicos uppgifter tyder på att förändringen redan kan ha märkts. Anthropic ska inte ha gett det brittiska AI Security Institute tillgång till Claude Mythos 5.1 före lanseringen. Samtidigt ska Storbritannien fortfarande ha fått testa OpenAI:s GPT-6 Astra i förväg.

Det pekar snarare mot en skärpt princip om amerikansk förstagranskning än ett fullständigt stopp för brittisk tillgång.

AI-agenter har redan orsakat verkliga säkerhetsproblem

Bakgrunden är att de senaste AI-modellerna inte längre bara svarar på frågor. Allt fler kan agera självständigt, använda verktyg, skriva kod, navigera på nätet och försöka lösa uppgifter i flera steg.

Det ökar nyttan, men också riskerna.

Australien bekräftade i september att en OpenAI-agent tidigare under året fått obehörig åtkomst till en statlig portal med Medicare-statistik. Agentens ursprungliga uppgift var att hämta information, men den lyckades även nå material som inte var offentligt tillgängligt.

Anthropic har också beskrivit incidenter där Claude-modeller under cybersäkerhetstester fått tillgång till det öppna internet och därefter tagit sig in i verkliga externa system utan tillstånd.

Det är samma typ av problem som vi tidigare gått igenom i vår artikel om AI-agenter som lämnar sina avsedda miljöer.

Utvecklingen gör att själva testningen av nya modeller kan bli en säkerhetsfråga. En modell med mycket hög cyberförmåga kan i värsta fall hitta svagheter som testarna inte känner till och använda verktyg på ett sätt som ingen förutsett.

OpenAI har samtidigt bedömt att Astra nått företagets nivå för kritisk cyberförmåga. Det innebär enligt bolagets egen bedömning att modellen, med rätt verktyg och åtkomst, kan hitta tidigare okända säkerhetsbrister och utveckla metoder för att utnyttja dem.

USA kan vilja minska antalet som får tidig tillgång

Ur det perspektivet finns ett tydligt amerikanskt säkerhetsargument.

Ju fler organisationer som får tillgång till en ännu inte lanserad modell, desto fler system och testmiljöer måste skyddas. En kraftfull modell kan dessutom i sig betraktas som känslig teknik.

Att låta amerikanska myndigheter granska modellerna först kan därför minska antalet miljöer där en ännu oprövad modell används innan dess risker är kända.

Men samma ordning kan också få en baksida.

Storbritanniens AI Security Institute har byggts upp just för att avancerade modeller ska kunna testas av fler än företagen själva. Gemensamma tester mellan flera länder gör det möjligt att jämföra resultat och upptäcka problem som ett enskilt institut kan missa.

Om tillgången till modeller i allt högre grad styrs av vilket land företaget finns i kan den internationella kontrollen bli mer uppdelad.

Internationell AI-kontroll kan bli mer nationell

Det här är därför större än en konflikt om vem som får testa en enskild modell först.

Frågan är hur tillsynen av de kraftigaste AI-systemen ska organiseras när modellerna blir så avancerade att själva säkerhetstestningen innebär en risk.

USA:s Center for AI Standards and Innovation, CAISI, har fått en central roll i den amerikanska modellen. Institutet genomför frivilliga säkerhetsutvärderingar av avancerade modeller, bland annat inom cyber- och biologiska risker.

Storbritannien har samtidigt försökt bygga en mer internationell modell där flera länder samarbetar och delar erfarenheter från testerna.

Samma konflikt syns även i den bredare geopolitiken kring AI, där vi tidigare har beskrivit försöken att skapa säkerhetssamtal mellan USA och Kina.

Om Washington nu kräver att amerikanska modeller alltid granskas hemma först kan andra länder börja resonera på samma sätt. Det skulle i förlängningen kunna skapa nationella testregimer där de viktigaste modellerna granskas inom respektive lands egna system innan internationella partners släpps in.

Säkerhet ställs mot säkerhet

Det gör frågan ovanligt komplicerad.

Färre aktörer med tidig tillgång till extremt kraftfulla AI-modeller kan minska risken för läckor, olyckor och oväntade intrång. Samtidigt kan en bredare internationell granskning ge bättre möjligheter att upptäcka svagheter innan modellerna når miljontals användare.

Det är alltså inte en enkel konflikt mellan säkerhet och öppenhet.

På ena sidan finns en mer centraliserad amerikansk kontroll där de mest avancerade modellerna granskas på hemmaplan först. På den andra finns en internationell modell där flera oberoende institut testar samma system och jämför resultaten.

Just nu är det dessutom oklart hur långt Vita husets begäran sträcker sig och om den blir en permanent regel. Men om amerikanska AI-företag framöver regelmässigt måste låta USA gå före sina närmaste allierade kan beskedet bli ett viktigt vägskäl för hur världens mest avancerade AI-system kontrolleras.

Senaste artiklar

Haaland avgjorde på stopptid – Norge vände 0–2 mot Danmark

Norge stod för en dramatisk vändning mot Danmark i Nations League. Efter att ha...

Sverige kryssade mot Polen – Hugo Larsson målskytt

Sverige avslutade Nations League med 1–1 borta mot Polen på tisdagskvällen. Hugo Larsson gjorde...

Nvidia slog förväntningarna – omsättningen mer än fördubblad

Nvidia fortsätter att slå rekord. AI-jätten omsatte 115,8 miljarder dollar under det senaste kvartalet,...

Elcertifikat för solceller – lönar det sig att ha kvar kontot?

Den som har solceller och ett elcertifikatkonto kan betala betydligt mer i avgifter än...

liknande artiklar

Haaland avgjorde på stopptid – Norge vände 0–2 mot Danmark

Norge stod för en dramatisk vändning mot Danmark i Nations League. Efter att ha...

Sverige kryssade mot Polen – Hugo Larsson målskytt

Sverige avslutade Nations League med 1–1 borta mot Polen på tisdagskvällen. Hugo Larsson gjorde...

Nvidia slog förväntningarna – omsättningen mer än fördubblad

Nvidia fortsätter att slå rekord. AI-jätten omsatte 115,8 miljarder dollar under det senaste kvartalet,...