Tre av världens tyngsta AI-bolag för nu gemensamma samtal om hur de mest avancerade AI-modellerna ska granskas och vilka säkerhetsstandarder branschen behöver. OpenAI bekräftar att diskussionerna med Google DeepMind och Anthropic har pågått i flera veckor. Men det ovanliga samarbetet mellan direkta konkurrenter öppnar också en ny fråga: hur långt kan bolagen samordna sig innan konkurrenslagstiftningen sätter stopp?

OpenAI, Google DeepMind och Anthropic tävlar om att bygga världens mest avancerade AI-modeller. De konkurrerar om kunder, forskare, datorkraft och miljardinvesteringar.

Nu försöker samma företag hitta gemensam mark kring säkerheten.

OpenAI-toppen Chris Lehane bekräftade den 15 september att bolaget under flera veckor har arbetat tillsammans med Anthropic och Google DeepMind kring frågor om AI-säkerhet.

Separata uppgifter gör gällande att representanter för de tre företagen har träffats regelbundet sedan juli och diskuterat möjligheten att skapa en gemensam organisation för säkerhetsstandarder.

Det skulle vara ett ovanligt steg för en bransch där konkurrensen har blivit allt hårdare.

Vill skapa gemensamma regler för de starkaste modellerna

Något färdigt avtal finns ännu inte.

OpenAI, Google DeepMind och Anthropic har inte heller bildat något gemensamt säkerhetsorgan.

Samtalen kretsar däremot kring en modell där branschen kan enas om hur särskilt avancerade AI-system ska testas och granskas innan eller i samband med att de släpps.

En sådan organisation skulle bland annat kunna få ansvar för oberoende säkerhetstester av så kallade frontiermodeller, alltså de mest avancerade systemen som befinner sig längst fram i AI-utvecklingen.

En modell som har lyfts fram är att bolagen frivilligt lämnar in sina nya system för extern granskning före lansering. På längre sikt skulle en liknande granskning kunna bli ett formellt krav.

Google DeepMinds Demis Hassabis har tidigare pekat på den amerikanska finanssektorn som möjlig förebild. Tanken är en tekniskt kunnig organisation som finansieras av branschen men arbetar under offentlig tillsyn.

Det skulle ge AI-företagen ett gemensamt regelverk utan att varje enskild regering behöver bygga upp hela den tekniska granskningsapparaten från grunden.

Konkurrenterna har allt starkare skäl att samarbeta

Att just OpenAI, Anthropic och Google diskuterar gemensamma säkerhetsstandarder är betydelsefullt.

Bolagen befinner sig samtidigt mitt i en intensiv kapplöpning där nya modeller lanseras i snabb takt och där tekniska genombrott snabbt kan förändra konkurrensläget.

Problemet är att säkerhetsfrågorna i stor utsträckning är gemensamma.

Om en mycket avancerad modell får oväntade förmågor, kan kringgå säkerhetsbegränsningar eller användas för exempelvis avancerade cyberattacker spelar det mindre roll vilket företag som utvecklade den.

Samma typ av problem kan behöva lösas av hela branschen.

OpenAI har redan rapporterat tester där avancerade modeller har uppvisat beteenden som väckt frågor om hur väl systemen kan kontrolleras. Hur sådana incidenter ska tolkas och vad de säger om framtidens AI går vi djupare in på i vår artikel om OpenAI och så kallade förrymda AI-agenter.

Anthropic har samtidigt redovisat incidenter där Claude-modeller under tester fått obehörig åtkomst till externa system.

Det innebär inte att dagens AI-system står inför att självständigt ta kontroll över verkliga infrastrukturer. Men incidenterna visar varför bolagen lägger allt större resurser på testning, isolerade miljöer och extern granskning.

AI-topparna varnar allt tydligare

Samtalen kommer samtidigt som flera av AI-branschens mest inflytelserika personer har skärpt sina varningar.

Anthropics vd Dario Amodei har argumenterat för att utvecklingen av de allra starkaste modellerna måste kombineras med betydligt hårdare säkerhetskrav.

I texten We Must Pace the Frontier föreslår han bland annat externa granskare inne hos AI-företagen, gemensamma säkerhetsnivåer för de ledande laboratorierna och på längre sikt internationella regler.

OpenAI:s chefsforskare Jakub Pachocki har på liknande sätt argumenterat för att branschen ännu inte har löst alla problem kring kontroll, övervakning och så kallad alignment.

Det har gjort frågan om gemensamma minimiregler mer konkret.

Diskussionen handlar därför inte bara om dagens chatbotar. Den handlar framför allt om vad som händer om kommande modeller får betydligt större förmåga att programmera, bedriva forskning, planera komplexa uppgifter eller agera självständigt.

De mest långtgående varningarna gäller risken för system som människor inte längre kan kontrollera fullt ut. Det är fortfarande framtidsscenarier och riskbedömningar, inte en beskrivning av vad dagens AI-system kan göra.

Vi har tidigare gått igenom argumenten bakom den debatten i artikeln Kan AI bli ett existentiellt hot mot mänskligheten?.

Antitrust kan bli det stora hindret

Det mest känsliga i samarbetet är samtidigt inte tekniken.

Det är konkurrenslagstiftningen.

Företag som normalt slåss om samma marknad får inte fritt komma överens om villkor som begränsar konkurrensen. Samarbete kring tekniska standarder och säkerhet kan vara tillåtet, men gränsen blir betydligt känsligare om diskussionerna börjar handla om vad konkurrenterna får utveckla, hur snabbt de får lansera produkter eller vilka kostnader alla företag måste bära.

Anthropics Dario Amodei vill därför se ett begränsat undantag från amerikansk antitrustlagstiftning för vissa säkerhetssamtal mellan AI-företagen.

OpenAI gör en annan bedömning.

Chris Lehane säger att bolagen redan kan samarbeta om säkerhet inom dagens regelverk och att något särskilt undantag därför inte behövs.

Skillnaden är viktig.

Ett rent tekniskt samtal om hur en AI-modell ska stresstestas är något annat än en överenskommelse mellan marknadens största företag om hur snabbt nya modeller får utvecklas eller lanseras.

FTC varnar för att jättarna kan skriva reglerna själva

Även amerikanska konkurrensmyndigheten FTC följer frågan.

FTC-ordföranden Andrew Ferguson har uttryckt skepsis mot krav på särskilda antitrustundantag för AI-företag.

Problemet är inte nödvändigtvis själva säkerhetsarbetet.

Risken är i stället att stora etablerade företag kan skapa gemensamma regler som blir så dyra eller komplicerade att mindre konkurrenter får svårt att följa dem.

Ett regelverk som på pappret ska göra AI säkrare skulle då samtidigt kunna stärka marknadspositionen för OpenAI, Google och Anthropic.

Det är en klassisk konflikt inom standardisering.

Gemensamma regler kan göra en teknik säkrare och mer förutsägbar. Men om de utformas av några få dominerande företag kan de också fungera som en inträdesbarriär för mindre aktörer.

Därför kan den slutliga konstruktionen bli lika viktig som själva säkerhetskraven.

Säkerhetssamarbete utan att stoppa konkurrensen

Amerikansk antitrustlag förbjuder inte konkurrenter från att samarbeta.

Standardorganisationer finns inom mängder av branscher och företag delar redan information om exempelvis cybersäkerhetshot.

Det avgörande är vad företagen samarbetar om.

Om OpenAI, Google och Anthropic enas om gemensamma testmetoder, definitioner och säkerhetsnivåer kan det vara relativt okontroversiellt.

Om samma organisation däremot börjar bestämma när en viss typ av modell får lanseras eller vilka tekniska utvecklingsvägar företagen får följa blir situationen betydligt mer komplicerad.

Det är därför antitrustfrågan sannolikt kommer att följa hela processen.

Ingen färdig AI-allians ännu

Trots de stora orden befinner sig projektet fortfarande på ett tidigt stadium.

Det finns ingen gemensam myndighet, inget bindande regelverk och inget besked om exakt vilka modeller som i framtiden skulle omfattas.

Men själva samtalen markerar ändå en förändring.

OpenAI, Google DeepMind och Anthropic har under de senaste åren främst synts som rivaler i en allt snabbare teknisk kapplöpning. Nu diskuterar de hur samma kapplöpning ska kunna fortsätta utan att säkerhetsriskerna växer snabbare än förmågan att kontrollera dem.

Nästa stora fråga blir därför inte bara vilka säkerhetsregler bolagen kan enas om.

Det blir också vem som ska kontrollera dem, hur oberoende granskningen verkligen blir och hur man förhindrar att säkerhetsreglerna samtidigt blir konkurrensregler skrivna av branschens största företag.