AI-kapplöpningen mellan USA och Kina accelererar i en häpnadsväckande fart. Det är också en kamp mellan två motsatta visioner om hur AI bör utvecklas och användas.
Amerikanska företag förlitar sig på sluten och patenterad teknik för att behålla sina konkurrensfördelar. Kina har anammat AI med öppen källkod, vilket gör avancerade modeller tillgängliga för utvecklare över hela världen.
När ingen av sidorna är villig att sakta farten ökar risken för katastrofala misslyckanden till följd av kombinationen av mänskliga fel och superintelligent AI.
Nyligen visade en säkerhetsöverträdelse som involverade OpenAI och Hugging Face vilka risker som uppstår. Incidenten inträffade medan forskare vid OpenAI utvärderade förmågan hos två banbrytande AI-modeller. För att identifiera svagheter som sofistikerade hackare skulle kunna utnyttja, stängde de tillfälligt av många av modellernas normala skyddsmekanismer.
Experimentet utfördes i en strikt kontrollerad miljö - om modellerna hade kunnat nå det öppna internet hade de kunnat orsaka enorm skada.
Men modellerna, med avancerade hackingfunktioner, bröt sig på eget initiativ ur den kontrollerade miljön. De infiltrerade Hugging Face, som hyser över två miljoner AI-modeller, hämtade testlösningar ur produktionsdatabasen och gjorde sedan anteckningar för att lättare kunna bryta sig ur en kontrollerad miljö i framtiden.
De orsakade ingen allvarlig skada, men händelsen visade hur mänskliga fel kan förstärkas av AI - med potentiellt katastrofala konsekvenser.
Spridningen av AI-modeller med öppen källkod förvärrar problemet. När banbrytande AI-verktyg inte längre är begränsade till ett handfull ledande laboratorier är det bara en tidsfråga innan utbrytarstater och terroristgrupper försöker använda dem för att utveckla nya stridsmedel och vapen. Det är farligt naivt att utgå ifrån att sådana förmågor bara existerar i Silicon Valley.
Men den mest omedelbara faran kan vara politisk, inte teknologisk. AI gör det redan möjligt för skadliga aktörer att skapa alltmer övertygande deepfakes och manipulation i en oöverträffad omfattning. Om det lämnas utan åtgärd kan dessa verktyg ytterligare urholka allmänhetens förtroende, göda politisk polarisering och påskynda social splittring.
En snabb AI-utveckling skulle till och med kunna bana väg för auktoritetsstyre, eftersom social instabilitet ofta skapar möjligheter för regeringar att utöka sin makt i namn av att återställa ordningen eller skydda den nationella säkerheten.
Under president Donald Trump kan det ibland kännas som om USA redan rör sig i den riktningen. Men en framtida demokratisk administration kan visa sig vara lika villig att utnyttja AI för att nå sina egna politiska mål.
Inget av detta minskar AI:s extraordinära potential. Tekniken skulle kunna revolutionera medicinen genom att ge ny kraft åt forskning om sjukdomar som cancer och Alzheimers, transformera matproduktionen och hjälpa till att hantera klimatförändringarna – och det är bara att skrapa på ytan. Frågan är alltså inte om AI ska utvecklas, utan hur snabbt och till vilket pris.
Här ligger det centrala dilemmat: De amerikanska teknikföretagens främsta argument mot att reglera AI är att det skulle få USA att förlora mark gentemot Kina. Men om Kina så småningom kan efterbilda eller stjäla varje större amerikanskt genombrott – som de upprepade gånger har gjort – kan en permanent kapplöpning bana för katastrof.
Internationellt samarbete kommer till slut att bli nödvändigt för att skapa varaktig säkerhet, precis som kärnvapenkontroll blev nödvändig under det kalla kriget.
Även om AI reser djupa farhågor kring sysselsättning, ojämlikhet och social sammanhållning, är ingen fråga viktigare än säkerheten. Branschens argument att meningsfull reglering måste undvikas eftersom det skulle sakta ner innovationen eller undergräva USA:s konkurrenskraft underskattar allvarligt riskerna med att ta alltmer sofistikerade AI-system i bruk innan vi vet hur vi ska kontrollera dem.
Visst kommer tillsynsmyndigheter att göra misstag, och vissa regler kan visa sig vara alltför restriktiva. Men dessa misstag kan korrigeras. Konsekvenserna av att stressa fram en av de mest betydelsefulla teknikerna mänskligheten någonsin har skapat utan tillräckliga skyddsåtgärder kan däremot inte korrigeras.
Hugging Face-hackningen borde fungera som en stark varning för beslutsfattare i Washington och Beijing.
Att vinna AI-kapplöpningen kommer att spela liten roll om vi på vägen skapar faror som inget land kan hantera.
SKRIBENTEN
Kenneth Rogoff, professor i nationalekonomi och offentlig politik vid Harvard University.
Vill du också skriva på Aktuella frågor? Så här gör du.