Donald Trump vill inte att USA bromsar utvecklingen av avancerad AI i kapplöpningen mot Kina. Samtidigt öppnar presidenten för vissa skyddsräcken. Utspelet kommer precis när ledande forskare på Anthropic varnar för extrema risker och vd:n Dario Amodei kräver att utvecklingen av de mest kraftfulla modellerna går långsammare.

Donald Trump går nu rakt in i den snabbt växande konflikten om hur långt USA ska våga driva utvecklingen av artificiell intelligens.

När presidenten fick frågor om riskerna med allt mer avancerade AI-system slog han fast att USA inte får ge upp sitt försprång mot Kina.

– Whoever wins AI wins, sade Trump.

Han avfärdade samtidigt delar av den allt mer högljudda säkerhetsdebatten och talade om ”very negative forces” som enligt honom varnar för saker som inte kommer att inträffa.

Men Trump gick inte så långt som att säga nej till all reglering.

– We could put guardrails, sade han.

Det skapar en tydlig skiljelinje i den amerikanska AI-debatten. Trump kan acceptera säkerhetsregler, men inte om de riskerar att göra amerikanska företag långsammare samtidigt som kinesiska konkurrenter fortsätter framåt.

Säkerhetsvarningarna har blivit betydligt skarpare

Presidentens besked kommer efter flera ovanligt dramatiska varningar från personer som själva arbetar nära utvecklingen av de mest avancerade AI-systemen.

Jacob Coxon, som har arbetat på både Anthropic och OpenAI, lämnade nyligen Anthropic och beskrev utvecklingen som en kapplöpning mot självförbättrande superintelligens där företagen enligt honom i praktiken spelar med människors liv.

Ännu mer uppmärksamhet fick Evan Hubinger, som leder Anthropics arbete inom alignment science.

Han har uppskattat risken för att framtida AI under det kommande decenniet skulle kunna leda till mänsklighetens undergång till över tio procent.

Det är samtidigt viktigt att skilja den varningen från dagens AI-system.

Hubingers resonemang gäller framtida modeller som är betydligt mer autonoma, kapabla och självförbättrande än dagens verktyg. Det handlar alltså inte om att nuvarande chattbotar skulle ha tio procents sannolikhet att utrota mänskligheten.

Dario Amodei vill bromsa kapacitetsutvecklingen

Anthropic-vd:n Dario Amodei har gått längre än att bara varna.

I sin färska text We Must Pace the Frontier argumenterar han för att utvecklingen av de mest kraftfulla modellerna måste gå långsammare för att säkerhetsarbetet ska kunna hinna ikapp.

Det handlar inte om ett permanent stopp för AI-utveckling.

Amodeis tanke är snarare att vinna kanske ett eller två år innan systemen når kapaciteter som kan bli mycket svårare att kontrollera.

Den tiden ska enligt honom användas till bland annat bättre alignment, mer avancerad tolkning av hur modeller resonerar, hårdare tester och tydligare säkerhetsmekanismer.

Bakgrunden är bland annat att AI allt oftare används för att utveckla nästa generation AI.

Det är en central del av den oro som finns kring så kallad rekursiv självförbättring: system som i allt högre grad hjälper till att bygga bättre versioner av sig själva eller andra AI-system.

Amodei har också pekat på den uppmärksammade incident där AI-agenter lyckades driva en uppgift betydligt längre än utvecklarna hade tänkt sig och interagera med externa system.

Hurbra har tidigare skrivit om OpenAI:s nya nödstopp för AI-agenter, som är ett konkret exempel på hur företagen försöker bygga in möjligheter att snabbt stoppa system som uppträder oväntat.

Trump och Amodei är egentligen överens om Kina

Den mest intressanta konflikten ligger inte i synen på Kina.

Där ligger Trump och Amodei närmare varandra än det först kan verka.

Trump ser USA:s tekniska ledning som ett säkerhetsintresse i sig. Om Kina når först till de mest kraftfulla AI-systemen kan det enligt den amerikanska linjen förändra maktbalansen inom ekonomi, cyberförmåga, militär teknik och underrättelseverksamhet.

Amodei delar i grunden den oron.

Han argumenterar själv för hårdare kontroll av avancerade chip, åtgärder mot modellstöld och större möjligheter att stoppa kinesiska aktörer från att kopiera amerikanska modeller.

Skillnaden gäller vad USA ska göra med sitt eget försprång.

Trump vill använda ledningen till att fortsätta maximera utvecklingstakten.

Amodei vill använda samma ledning som en säkerhetsmarginal som gör det möjligt att bromsa de mest riskabla stegen utan att Kina hinner gå om.

Det är också bakgrunden till diskussionerna om AI-säkerhetssamtal mellan USA och Kina.

Samma problem – två helt olika lösningar

Fråga	Konflikten
Utvecklingstakt	Trump vill inte bromsa. Amodei vill sänka kapacitetstakten.
Kina	Båda betraktar ett kinesiskt AI-försprång som en säkerhetsrisk.
Reglering	Trump accepterar begränsade skyddsräcken. Amodei vill ha betydligt starkare verifiering och kontroll.
Global lösning	Trump prioriterar amerikansk dominans. Amodei vill på sikt även pröva internationell samordning.

Amodei har själv beskrivit Kina-frågan som det svåraste dilemmat.

Om USA ensidigt bromsar och Kina inte gör det kan resultatet bli exakt det västvärlden försöker undvika.

Men om båda stormakterna fortsätter att maximera hastigheten finns i stället risken att säkerhetsproblemen hela tiden hamnar efter.

Amodei har därför öppnat för någon form av verifierbara internationella begränsningar kring de allra farligaste användningarna.

Han har jämfört tanken med tidigare försök till vapenkontroll mellan stormakter, men samtidigt medgett att kontrollen av AI kan bli betydligt svårare.

Trump vill ha regler – men inte regler som kostar USA ledningen

Det vore därför missvisande att beskriva Trump som motståndare till alla former av AI-säkerhet.

Hans administration har tidigare öppnat för federala skydd mot bland annat bedrägerier, risker för barn och vissa nationella säkerhetshot.

Men den övergripande linjen är tydlig.

Regler ska inte få bli ett hinder för amerikansk innovation eller göra det svårare för USA att dominera den globala AI-utvecklingen.

Det är just där motsättningen mot säkerhetsfalangen blir så tydlig.

För Amodei och flera andra personer inne i branschen är själva utvecklingstakten en del av risken.

För Trump är en lägre utvecklingstakt samtidigt en geopolitisk risk.

Kongressen diskuterar hårdare krav

Parallellt pågår dessutom diskussioner i den amerikanska kongressen om betydligt skarpare krav på företagen bakom de mest avancerade modellerna.

Både republikaner och demokrater har diskuterat ett möjligt federalt system där AI-bolag skulle få en tydligare skyldighet att hantera kända katastrofrisker.

I den mest långtgående modellen skulle den federala regeringen kunna försöka stoppa lanseringen av en modell om den bedöms vara farlig.

Det finns ännu ingen färdig lag.

Men diskussionerna visar hur snabbt den politiska situationen förändras.

Det som för bara några år sedan främst var en teknisk diskussion om långsiktiga AI-risker håller på att bli en central fråga i amerikansk säkerhets- och industripolitik.

AI-kapplöpningen har blivit ett säkerhetsdilemma

Trumps uttalande tydliggör den grundläggande motsättningen.

Om riskerna från mycket avancerad AI verkligen är så stora som Anthropic-forskarna varnar för finns ett starkt argument för att sakta ned utvecklingen.

Men om Kina fortsätter samtidigt kan en amerikansk inbromsning i sig skapa ett annat säkerhetsproblem.

Det är därför konflikten blivit svårare än en enkel strid mellan teknikoptimister och AI-skeptiker.

Båda sidor kan se samma hot och ändå komma fram till motsatta slutsatser.

Trump vill springa snabbare för att Kina inte ska hinna först.

Amodei vill skapa tillräckligt stort amerikanskt försprång för att USA ska kunna våga springa något långsammare.

Det kan bli en av de avgörande politiska frågorna när nästa generation AI-system nu närmar sig.