Jacob Coxon jobbade fram till i tisdags på AI-jätten Anthtropic. I en uppmärksammad tråd på X berättar han om sin uppsägning och varnar samtidigt för att AI-jättarna är ”utom kontroll” och bedömer risken till 10 procent att en AI ”innan decenniets slut” har utplånat mänskligheten.
”Underskatta inte kraften i den här tekniken. Snart kommer vi att ha övermänskliga system som kan hacka vad som helst, revolutionera vilket område som helst över en natt och skaffa sig verklig makt”, skriver han bland annat i tråden.
https://x.com/hilbertspaess/status/2097476196791709843Coxons tråd har fått stor spridning och många reaktioner, där vissa ger medhåll till riskerna medan andra tonar ner dem och menar att han överdriver.
Erik Slottner (KD) är Sveriges civilminister och har AI-frågor i sin portfölj.
– Skulle det vara så att det är sant att AI kommer att förinta mänskligheten inom tio år, då skulle jag säga att utvecklingen redan har gått så långt att loppet nog ändå är kört, med tanke på den utveckling som nu sker i USA och Kina.
”Sover gott”
Han menar att man tagit steg under mandatperioden och att han ”sover gott om nätterna”. Den snabba utvecklingen är dock inte riskfri.
– Om man kollar globalt tycker jag de största riskerna är att här finns en möjlighet för auktoritära regimer och diktaturer att kontrollera sin befolkning, manipulera sin befolkning och stärka greppet om sin befolkning på ett sätt som kommer att göra de här staterna än mer auktoritära och repressiva.
Bör man som väljare vara orolig för AI-utvecklingen?
– Nej, jag är ju i grunden teknikoptimist. Så jag ser med spänning fram emot, och viss entusiasm också, vad framtiden har att erbjuda.
Sverige står sig hyfsat på en global scen. Kina och USA leder utvecklingen, medan Sverige och EU ligger bakom. Slottner framhåller att samarbetet inom EU är en viktig hörnsten i en svensk AI-utveckling, utöver den svenska start up-scenen och Sverige som innovationsland.
– Vi behöver bli mer konkurrenskraftiga gentemot USA. Vi behöver bli mer oberoende av USA. Vi behöver fler starka techbolag som kan leverera högkvalitativa teknologiska tjänster till svenska företag och till offentlig sektor.