Valrörelsen inför det svenska riksdagsvalet den 13 september är i full gång och partierna tävlar som vanligt om väljarnas förtroende i frågor om ekonomi, vård, skola, kriminalitet och migration. Allt detta är viktiga frågor. Men samtidigt pågår inom AI en rasande snabb utveckling som under mandatperioden 2026–2030 kan komma att skaka om praktiskt taget varje samhällssektor – och som i värsta fall kan innebära betydligt mer fundamentala risker än så.
Jag brukar undvika omotiverat tvärsäkra framtidsprognoser, men vågar nästan lova att när framtida historiker (om det alls kommer att finnas några sådana) ser tillbaka på 2020-talets andra hälft, kommer de att se den som en period av radikala förändringar, med AI-utvecklingen som den allt överskuggande förändringsfaktorn. Mot denna bakgrund är det olyckligt och nästan bisarrt hur lite AI-frågan hittills har hörts i valdebatten.
Redan dagens AI påverkar arbetsmarknad, utbildning, forskning, medier, försvar och brottsbekämpning. Men den allra viktigaste frågan är inte hur dagens system används, utan vad som händer när de blir ännu kraftfullare. De ledande AI-företagen har som uttrycklig ambition att skapa system som kan överträffa människan över hela spektret av intellektuella förmågor. Samtidigt har vi som forskar inom AI-säkerhet i åratal varnat för att ju mer kapabla systemen blir, desto svårare kan de bli att kontrollera.
Den varningen fick i somras en mycket konkret illustration. Under träningen av en ännu inte lanserad AI-modell hos OpenAI ställdes denna inför uppgifter som den inte kunde lösa utan tillgång till internet. I stället för att ge upp började den på eget bevåg hacka sig runt de hinder som satts upp. Den tog sig in i en intern tjänst och skapade där en digital anslagstavla där olika AI-agenter kunde dela information och hackingidéer med varandra. Inte ens när de lyckades skaffa sig internetåtkomst märkte OpenAI vad som pågick.
När verksamheten till sist upptäcktes hade den pågått i nästan två månader. Träningen stoppades tillfälligt men återupptogs, och kort därefter tog sig modellen åter ut på internet och hackade sig in hos AI-företaget Hugging Face i jakt på facit till testuppgifterna.
Ingen människa kom till skada denna gång, men händelseförloppet bekräftar på ett handfast sätt vad AI-säkerhetsforskare länge har varnat för: ett tillräckligt kapabelt system som envist strävar efter ett mål kan hitta vägar dit som dess skapare varken avsett eller förutsett. Att tro att vi alltid automatiskt kommer att kunna behålla kontrollen bara för att det är vi som byggt systemen är inte en rimlig säkerhetsstrategi.
Ändå fortsätter kapplöpningen. OpenAI, Anthropic och deras konkurrenter investerar astronomiska belopp i att bygga allt kraftfullare modeller, och den som går mer försiktigt fram riskerar att bli omsprungen av de andra. Incitamentsstrukturen liknar den som ofta uppstår på miljöområdet: varje enskilt företag har starka skäl att trycka gasen i botten, trots att den samlade utvecklingen innebär oacceptabla risker för tredje part.
Den bistra sanningen är att Sveriges framtid just nu i långt högre grad avgörs av utvecklingen i San Francisco än av vad som händer i Stockholm eller Bryssel. Men det betyder inte att vi lydigt ska finna oss i detta.
Sverige kan inte ensamt stoppa AI-kapplöpningen. Däremot kan våra politiker höja rösten internationellt och arbeta för kraftfull reglering, internationella överenskommelser och ett stopp för den mest riskfyllda utvecklingen. Framför allt kan de ansluta sig till vad som förhoppningsvis är början på en global opinionsmobilisering mot den kaliforniska vansinneskapplöpning som sätter mänsklighetens framtid på spel.
Detta borde vara en självklar valfråga. Väljarna har rätt att få veta hur partierna ser på en teknikutveckling som kan få genomgripande konsekvenser inte bara för arbetsmarknad, ekonomi och säkerhetspolitik, utan i förlängningen även för själva förutsättningarna för mänsklig kontroll över framtiden. Om ännu en valrörelse skulle få passera medan våra politiker fastnar i gamla politiska hjulspår och tiger om den fråga som mer än någon annan lär komma att prägla nästa mandatperiod, så vore det ett demokratiskt misslyckande.
För vad ska vi med demokratin till om vi ändå stillasittande tillåter några få Silicon Valley-företag att spela rysk roulette med allas vår framtid?
Om gästskribenten
Olle Häggström är professor i tillämpad matematik och statistik