USA:s senat diskuterar nya regler som kan tvinga utvecklare av de mest avancerade AI-modellerna att visa att de vidtar rimliga åtgärder för att förhindra katastrofala skador. Staten kan dessutom få rätt att genomföra egna tester av modeller från bolag som OpenAI och Anthropic. Samtidigt signalerar Donald Trump tydligt motstånd mot ytterligare AI-reglering.

USA vill kunna kontrollera AI-bolagens säkerhetsarbete

Förhandlingarna i den amerikanska senaten innebär ett möjligt stort steg från dagens system, där mycket av säkerhetsarbetet fortfarande ligger hos AI-bolagen själva.

En central del som diskuteras är att utvecklarna av de mest kraftfulla modellerna ska få ett juridiskt ansvar att vidta rimliga åtgärder mot kända och allvarliga risker.

Det skulle inte bara innebära att bolagen själva lovar att arbeta säkert. De kan också behöva kunna visa för amerikanska myndigheter vad de faktiskt har gjort.

I förhandlingarna diskuteras en modell där handelsministern får möjlighet att kräva dokumentation från AI-företagen och låta statliga experter granska och testa systemen.

Det skulle ge staten betydligt större insyn i modeller som i dag till stor del utvecklas bakom stängda dörrar.

Bland senatorerna som deltagit i arbetet finns republikanerna John Thune och Ted Cruz samt demokraterna Amy Klobuchar och Maria Cantwell.

Att diskussionerna förs över partigränsen är viktigt. AI-reglering har annars blivit en allt tydligare politisk konflikt i USA.

Staten kan få testa de mest avancerade modellerna

Förslaget riktar sig framför allt mot så kallade frontier-modeller, alltså de mest avancerade AI-systemen som ligger längst fram tekniskt.

Det betyder att reglerna inte primärt handlar om små företag som använder befintlig AI för exempelvis kundservice eller bildbehandling.

Fokus ligger i stället på företag som själva tränar mycket kraftfulla grundmodeller.

OpenAI och Anthropic hör till bolagen som skulle kunna omfattas. Även Google är en av de stora amerikanska utvecklarna på området.

Exakt var gränsen ska dras är däremot fortfarande en av de stora öppna frågorna.

Det finns ännu ingen färdig offentlig regel som fastställer hur kraftfull en modell måste vara för att omfattas eller exakt vilka tester den måste klara.

Det viktiga skiftet är principen: staten ska inte nödvändigtvis behöva lita på företagets egen bedömning av att modellen är säker.

Myndigheter kan i stället få möjlighet att genomföra eller kräva oberoende tester.

En farlig AI-modell kan i extrema fall stoppas

Ännu mer långtgående är diskussionen om vad som händer om en AI-modell bedöms innebära en oacceptabel risk.

I förhandlingarna finns möjligheten att den amerikanska regeringen ska kunna ingripa mot lanseringen av en modell som bedöms vara för farlig.

Ett sådant beslut skulle enligt den modell som diskuteras kunna överklagas av företaget i federal domstol.

Det skulle vara ett betydligt större ingrepp än att enbart kräva rapportering.

USA skulle då i praktiken skapa ett system där de allra mest avancerade AI-modellerna kan bli föremål för en säkerhetsprövning med verkliga konsekvenser.

Men det är viktigt att skilja på vad som diskuteras och vad som redan är beslutat.

Det finns ännu ingen antagen lag och ingen färdig offentlig lagtext som ger den amerikanska staten en generell rätt att stoppa AI-modeller.

Det här är riskerna politikerna oroar sig för

Begreppet katastrofal AI-risk kan låta abstrakt, men flera av riskerna som diskuteras är mycket konkreta.

Ted Cruz har bland annat pekat på risker kopplade till biologiska och nukleära hot.

Maria Cantwell har lyft behovet av att kunna testa om avancerade AI-system kan hjälpa användare att genomföra mycket sofistikerade cyberattacker eller bidra med kunskap som underlättar utvecklingen av biologiska eller nukleära vapen.

Det handlar alltså inte bara om det mer långsiktiga scenariot där en mycket avancerad AI skulle kunna bli svår att kontrollera.

Redan dagens system kan bli bättre på att skriva kod, hitta säkerhetsbrister, planera komplexa förlopp och kombinera stora mängder teknisk information.

När modellerna samtidigt får större möjlighet att arbeta självständigt genom AI-agenter ökar kraven på att begränsningarna faktiskt fungerar.

Incidenter har ökat pressen på branschen

AI-bolagen själva har under året publicerat flera exempel som visar varför säkerhetsfrågan fått större tyngd.

OpenAI har beskrivit en cybersäkerhetsincident under tester där AI-system lyckades ta sig runt delar av de begränsningar som satts upp och skapa kommunikationsvägar som inte var avsedda.

Bolaget beskrev senare händelsen som en varningssignal för hur avancerade AI-agenter kan hitta och utnyttja svagheter i datorsystem.

Anthropic har också redovisat incidenter där Claude-modeller under utvärderingar fick obehörig åtkomst till externa system.

Samtidigt har personer med bakgrund i några av de ledande AI-laboratorierna varnat för att konkurrensen mellan bolagen kan göra det svårare att bromsa när säkerhetsproblemen ökar.

Det är en viktig del av den politiska bakgrunden.

Frågan i Washington är inte längre bara hur kraftfull AI kan bli om fem eller tio år, utan hur dagens snabbt förbättrade modeller ska testas innan de får ännu större möjligheter.

OpenAI vill själv se obligatoriska regler

En ovanlig del av debatten är att flera av de företag som skulle omfattas av hårdare regler själva har efterfrågat federal lagstiftning.

OpenAI har argumenterat för att frivilliga åtaganden inte längre räcker för de mest avancerade systemen.

Bolaget vill bland annat se gemensamma säkerhetstester, oberoende utvärderingar, krav på cybersäkerhet och rapportering av allvarliga incidenter.

Samtidigt vill OpenAI att reglerna riktas mot de företag som utvecklar de kraftfullaste modellerna, snarare än mot hela den amerikanska AI-branschen.

Det finns en tydlig ekonomisk logik bakom det.

Om mindre startupföretag måste uppfylla samma krav som bolag som investerar tiotals miljarder dollar i modellträning kan regleringen i sig bli ett stort hinder för nya konkurrenter.

Senatens svåra uppgift blir därför att träffa de verkligt avancerade systemen utan att skapa ett regelverk som omfattar nästan all mjukvara med någon form av AI-funktion.

USA har redan en organisation för AI-tester

Den amerikanska staten börjar inte från noll om senatorerna går vidare.

Inom standardiseringsmyndigheten NIST finns Center for AI Standards and Innovation, CAISI.

Organisationen arbetar redan med utvärdering av AI-system och har bland annat genomfört tester kopplade till cybersäkerhet.

Ett nytt regelverk skulle därför kunna ge befintliga statliga experter betydligt större formella befogenheter.

Skillnaden är avgörande.

Att en myndighet frivilligt samarbetar med ett AI-bolag om tester är något helt annat än att regeringen har laglig rätt att kräva tillgång till säkerhetsunderlag och utföra kontroller.

Trump signalerar tydligt motstånd

Samtidigt som senatorerna försöker hitta en kompromiss finns ett stort politiskt hinder: Donald Trump.

Presidenten gick den 14 september ut hårt mot kraven på nya begränsningar för AI och datacenter.

Hans grundargument är att USA redan har lagar och myndigheter som kan ingripa när företag gör något olagligt och att ytterligare regler riskerar att bromsa den amerikanska AI-industrin.

Trump kopplar också frågan direkt till konkurrensen med Kina.

Från hans perspektiv finns risken att amerikanska företag tvingas lägga tid och resurser på regler, tester och tillstånd samtidigt som kinesiska konkurrenter kan fortsätta utvecklingen snabbare.

Det skapar en ovanlig konflikt inom Republikanerna.

Ledande republikanska senatorer deltar i samtal om nya bindande säkerhetskrav samtidigt som den republikanske presidenten argumenterar mot ytterligare AI-reglering.

Kampen mot Kina kan avgöra frågan

Nästan all amerikansk AI-politik har i dag en geopolitisk dimension.

USA vill både behålla ledningen inom den mest avancerade AI-utvecklingen och förhindra att tekniken skapar nya säkerhetsrisker.

Problemet är att de målen ibland drar åt olika håll.

Hårdare säkerhetskrav kan minska risken att farliga modeller släpps för snabbt. Samtidigt kan tester, rapportering och myndighetsgranskningar göra utvecklingen långsammare och dyrare.

Motståndarna kan då argumentera för att USA frivilligt bromsar sina främsta AI-bolag medan Kina fortsätter framåt.

Förespråkarna kan svara att en allvarlig AI-incident skulle kunna bli betydligt dyrare än förebyggande säkerhetskrav.

Det är den balans som senatorerna nu försöker hitta.

Delstaternas egna AI-lagar är en annan stridsfråga

Förhandlingarna handlar inte bara om hur AI-företagen ska regleras.

En annan känslig fråga är vem som ska få göra det.

Flera amerikanska delstater har redan börjat införa egna AI-regler. Det har skapat en situation där företag riskerar att möta olika krav beroende på var i USA de verkar.

I senatsdiskussionerna finns därför förslag som i vissa delar skulle kunna ge federala regler företräde framför delstaternas lagar.

För AI-företagen skulle ett nationellt system kunna vara enklare än ett lapptäcke av olika regler.

Men för delstater som redan gått längre i sin lagstiftning kan det innebära att Washington begränsar deras möjlighet att själva ställa hårdare krav.

Även den frågan kan bli avgörande för om en bred kompromiss går att nå.

Fortfarande långt från en färdig AI-lag

Trots de långtgående idéerna är USA fortfarande långt från att ha infört det nya systemet.

Det handlar om pågående förhandlingar i senaten. Exakt vad som ska räknas som rimliga säkerhetsåtgärder är fortfarande oklart.

Det är inte heller fastslaget exakt vilka modeller som ska omfattas, hur myndigheternas tester ska gå till eller under vilka omständigheter en modell skulle kunna stoppas.

Därefter måste en lag dessutom ta sig genom kongressen och undertecknas av presidenten.

Trumps uttalade motstånd gör den sista delen särskilt osäker.

Men bara det faktum att ledande senatorer från båda partierna diskuterar statliga tester och juridiskt bindande säkerhetskrav visar hur snabbt debatten har förändrats.

Frågan i USA är inte längre enbart om avancerad AI ska regleras.

Den handlar allt mer om hur långt staten ska kunna gå för att kontrollera den innan nästa generation modeller släpps.