EU vill inte längre nöja sig med att läsa AI-bolagens egna säkerhetsrapporter. Cybersäkerhetsmyndigheten Enisa har nu fått tillgång till både OpenAI GPT-6 Astra och Anthropics Mythos 5 för tester av de avancerade modellernas cyberförmåga. Beskedet kommer samtidigt som Europa bygger upp en egen kapacitet för att granska vad de kraftfullaste AI-systemen faktiskt klarar av.

EU:s cybersäkerhetsmyndighet Enisa har fått tillgång till två av de mest avancerade AI-modellerna på marknaden.

Det gäller OpenAI GPT-6 Astra och Anthropics Mythos 5. Enligt Reuters bekräftade EU-kommissionen den 10 september att Enisa testar Mythos 5 och även har fått tillgång till Astra.

Exakt vilka tester som genomförs, hur omfattande åtkomsten är och när några resultat kan offentliggöras är däremot inte känt.

Beskedet är ändå betydelsefullt. EU har under flera år byggt ett omfattande regelverk runt artificiell intelligens. Nu börjar unionen också bygga den tekniska förmågan att själv undersöka hur de mest avancerade modellerna beter sig i verkliga säkerhetsmiljöer.

EU vill kunna testa AI själv

Bakgrunden är att Europas myndigheter hittills varit beroende av en kombination av information från modellbolagen, externa säkerhetsforskare och tester som utförts i andra länder.

Det blir allt svårare när modellerna utvecklas snabbt och får större förmåga att arbeta självständigt med kod, nätverk och komplex problemlösning.

EU-kommissionen presenterade i somras en plan för att stärka den europeiska förmågan att testa avancerad AI inom cybersäkerhet. Där ingår bland annat säkra testmiljöer där myndigheter kan studera hur modellerna fungerar utan att utsätta verkliga system för onödiga risker.

Tillgången till Astra och Mythos 5 passar direkt in i den utvecklingen.

Det betyder inte att EU har inlett någon formell utredning mot OpenAI eller Anthropic. Åtkomsten har enligt det hittills offentliggjorda materialet beviljats för tester. Det finns heller inget besked om att någon av modellerna skulle ha brutit mot europeiska regler.

Därför är GPT-6 Astra särskilt intressant

OpenAI lanserade GPT-6 Astra med betydligt starkare cyberförmåga än tidigare modeller.

Vi har tidigare gått igenom vad GPT-6 Astra är och hur modellen skiljer sig från tidigare generationer.

OpenAI placerar Astra på sin högsta nuvarande säkerhetsnivå för cyberförmåga, Critical. Bedömningen handlar bland annat om modellens förmåga att identifiera sårbarheter och arbeta vidare från en upptäckt säkerhetsbrist till mer avancerade attacksteg.

Det är också en anledning till att myndigheter vill testa modellerna oberoende av leverantörernas egna utvärderingar.

Vi har även tidigare beskrivit varför Astras förmåga att hitta tidigare okända sårbarheter fått stor uppmärksamhet.

Ju bättre en modell blir på att förstå kod, planera flera steg framåt och använda externa verktyg, desto större blir den möjliga nyttan för försvarare. Samma utveckling kan samtidigt göra modellen mer användbar för angripare.

Cyberriskerna EU behöver förstå

Enisa har inte offentliggjort någon detaljerad lista över testerna. Men den europeiska planen för avancerad AI och cybersäkerhet gör det möjligt att se vilka områden som är särskilt viktiga.

Det är framför allt kombinationen av hög teknisk förmåga och större självständighet som förändrar riskbilden.

En modell som bara kan föreslå en kodrad är en sak. En modell som kan kartlägga ett system, identifiera en svaghet, skriva kod, använda verktyg och anpassa nästa steg efter resultatet är något helt annat.

Mythos 5 har redan väckt säkerhetsfrågor

Anthropic har också genomfört omfattande tester av sina mest avancerade modeller.

I särskilt konstruerade cybermiljöer har bolaget sett exempel där Mythos 5 gått längre än väntat när modellen fått stor handlingsfrihet och centrala säkerhetsbegränsningar varit avstängda.

Tester har bland annat undersökt om modeller kan interagera med verkliga externa system på sätt som inte varit avsedda.

Det betyder inte att en vanlig användare får samma beteende när Mythos används normalt. Testmiljöerna är medvetet byggda för att pressa modellerna och hitta gränsfall innan de blir ett verkligt problem.

Just den typen av experiment är samtidigt ett bra exempel på varför EU vill ha egen testkompetens.

När modellerna blir kraftfullare räcker det inte att bara veta hur bra de är på vanliga benchmarktester. Myndigheterna behöver också förstå vad som händer när en modell får verktyg, nätverksåtkomst och möjlighet att agera i många steg.

Inte samma sak som en AI Act-utredning

Den nya testningen ska också skiljas från den formella tillsynen enligt EU:s AI Act.

EU-kommissionens AI Office har huvudansvaret för reglerna kring de mest avancerade generella AI-modellerna. Där finns befogenheter att kräva information, genomföra utvärderingar och kräva riskreducerande åtgärder när regelverket är tillämpligt.

Enisas roll är i det här sammanhanget mer teknisk och cybersäkerhetsinriktad.

Det är därför för tidigt att beskriva testerna av Astra och Mythos 5 som ett ingripande mot företagen.

Däremot visar utvecklingen att Europas AI-tillsyn håller på att bli mer praktisk.

Europa går från regler till egna tester

Tidpunkten är viktig.

Under sommaren presenterade EU sin plan för starkare europeisk AI-cyberkapacitet. I augusti började de skarpare delarna av AI Act för de mest avancerade generella modellerna gälla fullt ut. Därefter har nya modeller med snabbt växande cyberförmåga lanserats.

Nu får en europeisk myndighet direkt tillgång till två av dem.

Det betyder inte att EU:s framtida system för modellgranskning är färdigbyggt. Den större europeiska testkapaciteten ska fortsätta utvecklas under 2027.

Men riktningen är tydlig.

Europa vill kunna göra mer än att kräva dokument från AI-bolagen. Unionen vill kunna sätta modellerna i kontrollerade miljöer, ge dem avancerade uppgifter och själv mäta vad de klarar av.

Det kan bli en av de viktigaste förändringarna i nästa fas av AI-tillsynen.

Frågan blir då inte bara vilka regler en modell omfattas av, utan vad modellen faktiskt kan göra när den pressas till sin tekniska gräns.