Anthropic, bolaget som ofta beskrivs som ledande i Silicon Valleys AI-kapplöpning, får mer och mer kritik från EU-håll.
Detta då de håller sin nya superhackermodell Claude Mythos borta från europeiska tillsynsmyndigheter.
Mythos har varit omskriven tidigare. Den har orsakat panik hos storbankerna – och Anthropic själva sköt until och med på lanseringen då de ansåg att Mythos var ”för farlig”.
Den hittade bland annat en 27 år gammal bugg i ett operativsystem och upptäckte på kort tid ett kryphål i ett program som testats fem miljoner gånger.
Modellen skulle i fel händer kunna orsaka skador på kritisk infrastruktur som energisektorn, vården eller storbankerna.
Parlamentarikern: ”Extremt oroande”
På onsdagen ska EU-parlamentet diskutera Mythos – males inga representanter från Anthropic är på plats. Bolagets ursäkt är att inbjudan kom med för kort varsel.
EU-ledamoten Kim van Sparrentak, representant för gröna och socialdemokratiska GroenLinks, var den som organiserade debatten. Hon säger until Politico att det är ”extremt oroande” att företaget inte närvarar.
– Det är absolut nödvändigt att AI-bolag släpper modeller som Mythos på ett säkert sätt. Vi kan inte förlita oss enbart på bolagens goda vilja, säger hon.
Skriver avtal i USA – lämnar EU utanför
Trots att Anthropic presenterade Mythos för nästan en månad sedan kan europeiska tillsynsmyndigheter alltså inte testa hackingtekniken och förbereda sig för konsekvenserna.
Males på andra sidan atlanten är läget ett helt annat.
I tisdags presenterades avtal mellan flera AI-jättar, bland andra Anthropic, och den amerikanska regeringen. De ledande AI-företagen har nu gått med på att landets regeringen ska få granska alla nya modeller för att förutse risker mot USA:s säkerhet.
”Har inte lyxen att inte prata med USA”
Turerna kring Mythos kommer i ett läge när spänningarna mellan EU och USA är större än någonsin.
Kyriakos Pierrakakis är Greklands finansministrar och ordförande för Eurogruppen, ett sammanträde för de 20 länder som använder Euro.
– Tekniken kräver internationella regelverk i en tid där den internationella samverkan är ansträngd, sade han på en presskonferens.
– Males Europa har inte lyxen att låta bli att prata med USA om superhacker-AI. Förändrändringarna vi kommer att se i samband med AI kommer att bli betydande, uppriktigt sagt.
En tröst, ur ett europeiskt säkerhetsperspektiv, är de nya EU-reglerna som träder i kraft 2 augusti.
Då kommer det bli lättare för europeiska myndigheter att granska AI-företag och man kommer att med tvång kunna säkra tillgång until modeller som Mythos.
