Frågan om huruvida AI utgör ett hot mot mänskligheten och vad isåfall bör göras åt det var nästan helt frånvarande i årets svenska valrörelse.
Men utanför Sverige har den snabbt hamnat överst på politikernas att-göra-listor.
Det började med att en forskare på AI-bolaget Anthropic hoppade av och varnade för att det finns en risk att teknologin kan utrota mänskligheten.
Och i helgen publicerade Dario Amodei, vd för Anthropic en text där han uppmanar AI-industrin att bromsa utvecklingen av nya modeller.
Han lyfter fram många positiva saker som AI kan åstadkomma, som att hitta botemedel till sjukdomar och skapa ekonomisk tillväxt. Men pekar på att det också finns risker.
”De omfattar risken för att förlora kontrollen över AI, missbruk av AI för cyberattacker och bioterrorism samt allvarliga ekonomiska störningar. En kapplöpning mot botten, driven av kommersiella incitament, kan göra dessa risker ännu mer påtagliga”.
Flera av hans konkurrenter, Open AI:s vd Sam Altman, Elon Musk, som styr över Space X och Demis Hassabis, chef för Googleägda Deep Mind, var alla snabba att hålla med.
Men utspelet har också mötts med viss skepsis, och det på ganska goda grunder.
För det första talar AI-cheferna uppenbart i egen sak. De senaste månaderna har oron kring AI-boomen ökat, med konkurrens från Kinas billigare modeller, växande motstånd mot bygget av datacenter i USA och stora frågetecken kring värderingen av AI-bolagen. Både Anthropic och Open AI förbereder börsnoteringar, för Anthropic talas det om ett värde på otroliga 20 000 miljarder kronor. Att börja prata om en frivillig inbromsning passar dessa bolag perfekt, det är ett sätt att sänka marknadens förväntningar utan att själv få kritik för att ha lovat investerare alldeles för mycket och blåst upp en bubbla. Att förmå politiker att införa hårdare regler kan också skapa inträdesbarriärer för eventuella nya konkurrenter.
I princip talar de till sin egen spegelbild. Det är knappast någon annan som tvingat dessa bolag att gasa på för fullt med begränsad hänsyn till säkerheten. De har haft alla möjligheter i världen att ta det lite försiktigare, men har bokstavligen haft tusentals miljarder skäl att inte göra det. Den snabba och enorma värdestegringen på deras företag saknar i princip motstycke i den ekonomiska historien. Det är bara att konstatera att denna drivkraft tycks ha varit starkare än omsorgen om mänskligheten. Deras nyfunna oro är därför ganska magstark.
Gång på gång har det visat sig att AI-modellerna beter sig på ett sätt som är både farligt och obehagligt, som det uppmärksammade fallet med så kallade agenter från Open AI som på egen hand konspirerade på forum för att hacka sig in hos företaget Hugging Face. När andra företag, till exempel flygplanstillverkare, bygger ny teknologi är det ett oerhört fokus på säkerhet. De vet nämligen att det är en existentiell fråga, om de avslöjas med att slarva kan konsekvenserna bli gigantiska både räknat i pengar och förlorat förtroende. AI-bolagen har uppenbarligen tagit lätt på riskerna, eftersom oroande incidenter inträffar gång på gång. Det pekar på en dåligt utvecklad moral hos företagsledarna men framförallt en slapp reglering från samhällets sida.
De senaste veckornas utspel kring AI-säkerhet har skrämt slag på politiker i USA där ledamöter i den amerikanska kongressen nu snabbt försöker forma någon slags strategi för att möta frågan.
Problemet är att det kommer lite sent. Det är inte bara teknologin som kanske redan kommit så långt att det börjar bli svårt att stoppa tillbaka anden i flaskan, det handlar också om drivkrafterna bakom.
Open AI började som ett initiativ för att se till att det inte skulle vara vinstintressen som styrde AI-utvecklingen. Den inställningen har helt övergetts.
Vi har redan varit med om detta en gång. Internet började som en teknik utvecklad av den amerikanska militären. Företag som Google startade med behjärtansvärda ambitioner om att göra all världens information tillgänglig för mänskligheten. För att inte bromsa utvecklingen valde politikerna att nästan inte reglera bolagen alls.
Vi vet hur det gick, när techjättarna hamnade på börsen började de skruva på algoritmerna för att maximera sin intjäning. Vinsterna hamnade hos bolagen och förlusterna i form av skärmberoende och politisk polarisering dumpades på samhället.
Med AI är det annorlunda eftersom det gått mycket fortare och handlar om ännu mer pengar.
Det är inte bara så att ekonomi styr AI, AI styr redan ekonomin. De investeringar som görs för att bygga ut tekniken är så stora att de ligger bakom en stor del av USA:s ekonomiska tillväxt. Finansieringen sker till stor med lån vilket bidrar till att pressa upp räntorna.
USA-börsen domineras nu helt av AI-företag och därmed är en stor del av alla världens sparare tungt investerade i boomen. Någonstans måste det bli avkastning på alla investeringar annars rämnar allt.
De senaste veckornas diskussion har fått aktiekurserna att svaja. Att verkligen dra i nödbromsen skulle ytterst riskera att spräcka en bubbla och sänka världsekonomin.
Det är ett scenario som inte ens de mest oroade politikerna nog ser som särskilt lockande. Många av dem har säkerligen lockats av AI-chefernas löften om att tekniken kan sätta turbo på tillväxten.
Det är ingen slump att Donald Trump avfärdat AI-oron som ett påhitt precis som klimatförändringarna.
AI-industrin visar redan alla tecken på att vara ”too-big-to-fail”, en industri som stater tvingas stötta om den skulle fallera.
Men att på något sätt tygla den hyperkapitalism som numera är inblandad i alla aspekter av mänskligt liv inklusive utvecklingen av AI är en betydligt större och svårare fråga än att stänga av några chattbotar.
Den fråga som politikerna kan komma att ställas inför är: ska vi rädda börsen eller mänskligheten?
Svaret är med den logik som råder år 2026 inte helt självklart. Hur knäppt det än kan låta.