Det här är en argumenterande text med syfte att påverka. Åsikterna som uttrycks är skribentens egna.
DEBATT | AI
Finlands president Alexander Stubb och Norges statsminister Jonas Gahr Støre lanserade i måndags uppropet ”A Call for Control of Frontier AI Models”. Bakom det står bland andra Danmarks Mette Frederiksen, Islands Kristrún Frostadóttir, Tysklands Friedrich Merz, Spaniens Pedro Sánchez, Kanadas Mark Carney och EU-kommissionens Ursula von der Leyen. Sveriges statsminister Ulf Kristersson saknas bland undertecknarna.
Den korta texten noterar att utvecklingen av de mest avancerade AI-systemen går mycket snabbt och medför allvarliga säkerhetsrisker om den inte hanteras rätt, och att detta kräver ett antal åtgärder för att garantera människors säkerhet och kontroll över teknologin. Uppropet är rättsligt oförbindande och uttryckligen öppet för fler länder att ansluta sig till.
Uppropet rekommenderar tre huvudsakliga åtgärder: att företagen ska anamma transparenta säkerhetsprotokoll med obligatorisk testning före lansering, som kan utvärderas av oberoende granskare med tillräcklig tillgång till modellerna; att länder ska samordna gemensamma säkerhetsstandarder och dela information om allvarliga incidenter; och slutligen att FN:s medlemsstater bör pröva att inrätta en internationell institution som kan sätta standarder och verifiera att de följs.
Dessa är rimliga, om än minimala, krav och Sverige bör ställa sig bakom dem.
Varför krävs någon åtgärd? Det tydligaste svaret ges av flera händelser under sommaren. Den mest kända är incidenten i juli då företaget Hugging Face upptäckte att deras servrar hade blivit hackade av vad som visade sig vara AI-agenter från Open AI.
Utredningar från Open AI och forskningsorganisationerna METR och Redwood Research visade att dessa AI-agenter hade brutit sig ut ur sin testmiljö för att mer effektivt lösa de uppgifter de hade tilldelats och spontant samordnat sig för att manipulera rättningssystemet som skulle bedöma deras prestation. Genom att samarbeta – omkring 1 200 agenter skickade runt 70 000 meddelanden och filer till varandra via ett av Open AI:s interna filsystem – lyckades de kringgå att bli upptäckta, och omkring 700 av dem tog sig därefter ut på internet och in på Hugging Face.
Händelseförloppet låter som taget ur en science fiction-roman, och det är lätt att avfärda som en udda engångshändelse. Men sedan dess har flera liknande händelser rapporterats. Senast i onsdags uppdagades det att AI-agenter från Open AI i juni hade tagit sig in i en australisk myndighetsportal för hälsostatistik, vilket är det första kända fallet där ett AI-system brutit sig in i ett statligt system. Även andra företags AI-system har varit involverade i liknande händelser, bland dem system från Anthropic, Google och Meta.
Om AI-systemen hade varit mer avancerade hade skadan kunnat bli väsentligt allvarligare än de relativt harmlösa intrång vi har sett hittills. De hade dessutom varit betydligt svårare att upptäcka, eftersom modellerna då hade varit bättre på att sopa igen spåren efter sig, vilket de försökte göra i fallet med Hugging Face men bara delvis lyckades med. Snart kan detta dock vara verklighet, då teknologins utveckling fortsätter i hög hastighet.
En av de främsta möjligheterna vi har i dag för att begränsa dessa risker är att låta oberoende organisationer övervaka och utvärdera de AI-system som företagen utvecklar och att länder samarbetar för att hantera de risker som uppdagas. Förslagen i uppropet skulle tydligt främja en sådan ordning. Det är därför beklämmande att Sverige är det enda nordiska landet som inte har skrivit under.
Man kan undra om det faktum att vi just nu har en övergångsregering påverkar Sveriges möjlighet att stötta uppropet. Men det vore en långsökt ursäkt.
Visserligen är det svensk praxis att en övergångsregering enbart bör fatta beslut angående löpande eller brådskande ärenden som inte är politiskt kontroversiella. Men uppropet faller klart inom ramarna för denna praxis. Inget riksdagsparti har tagit tydlig ställning mot säkerhetsåtgärder kring AI, och dessutom finns det prejudikat. I december 2018 ställde sig Stefan Löfvens övergångsregering bakom FN:s globala migrationsramverk med motiveringen att det inte var rättsligt bindande.
Framför allt är ärendet brådskande. På torsdagen mötte Donald Trump sin kinesiske motsvarighet Xi Jinping i Washington för att diskutera AI, samtidigt som frågan behandlas under FN:s högnivåvecka. Varken USA eller Kina står bakom uppropet, men Stubb har sagt till Politico att han hoppas få med båda. En bred anslutning från världens andra länder har möjlighet att påverka utfallet, och en svensk signatur kan uppmuntra andra ledare att följa vårt exempel.
Statsminister Ulf Kristersson bör signera uppropet och avrunda denna period som statsminister genom att leda Sverige in i en säkrare framtid.
Paul de Font-Reaulx
forskare i AI-utvärdering
Läs även