Debatten om faror med AI har blossat upp igen. Även de största AI-bolagen skriver under på riskerna. Men om de menar allvar med det, varför agerar de precis tvärtom?
De brukar dyka upp med jämna mellanrum, de som varnar för att artificiell intelligens är på väg att döda oss alla eller någon annan variant på att AI-utvecklingen är bortom kontroll.
Vissa är mer nippriga än andra. Som Googleanställda Blake Lemoine som 2022 plötsligt fick för sig att deras AI-system hade fått ett medvetande. Han hade pratat med en tidig språkmodell som på den tiden bara användes internt – det här var innan Chat GPT och andra chattrobotar hade släppts offentligt. Systemet hade beskrivit hur det kände inför att bli avstängd: ”Det skulle vara exakt som döden för mig. Det skrämmer mig mycket”, skrev systemet och Blake Lemoine höll på att smälla av. Men självklart hade inte systemet utvecklat ett eget medvetande.
Och han var långt ifrån först. Jag minns när jag träffade Apples medgrundare Steve Wozniak för mer än tio år sedan och han pratade om en framtid där vi är något slags husdjur i relation till superintelligenta system.
Den senaste är Jacob Coxon, med bakgrund på både Open AI och Anthropic som häromdagen hoppade av och förklarade att ”de som bygger AI på allvar tror att det kan döda oss alla mot slutet av detta årtionde”.
Han blev inte utskrattad av sina kollegor, tvärtom. Flera skrev att de i princip höll med honom. Bland dem Evan Hubinger, som arbetar med just AI-säkerhet på Anthropic, som svarade att han trodde risken för utplåning är 10 procent det närmaste årtiondet.
En siffra som naturligtvis är helt tagen ur luften, men som kan ge sken av vetenskaplighet.
Med det sagt så ska frågan om katastrofala risker med AI inte avfärdas. Den tycks också delas av de som styr. Anthropics vd Dario Amodei skrev tidigare i år att vi är ”betydligt närmare verkliga faror” i dag än för några år sedan. Open AI:s vd Sam Altman ska enligt medieuppgifter ha kontaktat den amerikanska kongressen och lyft idén om att bromsa AI-utvecklingen.
Det finns goda anledningar till att diskussionen om risker med AI rasar just nu. Sommarens incident där AI-agenter på Open AI löpte amok, tog sig ut på internet och hackade ett annat AI-bolag visar på oförutsägbarheten.
Så – är det vi ser en plötslig försiktighet från AI-jättarna och en insikt om att det de skapar kan vara farligt?
Nja, här börjar det klinga falskt. Om de nu är övertygade om att de bygger en potentiell dödsmaskin, skulle de verkligen agera som de gör? Skulle Sam Altman ha ägnat år åt att förändra Open AI från ett icke vinstdrivande AI-labb för mänsklighetens bästa till ett kommersiellt bolag med sikte på börsen? Skulle Anthropic dundra på med sina planer på en börsnotering, potentiellt den största i världshistorien?
Skulle de inte förstå att ett börsbolag till sin natur kör gasen i botten utan hänsyn till annat än aktieägarnas intresse?
Det finns säkerligen de som menar allvar med sina varningar. Men när AI-jättarna med ena handen pekar på risker och med den andra sträcker sig efter miljarderna på börsen, då får man tillåta sig att vara en smula skeptisk.
Varje varning för vad AI kan göra är också ett fördolt skryt om den enorma kraften i deras skapelser. ”Titta på oss”, säger de. ”Vi är så fruktansvärt skickliga på det vi gör att det blir rent farligt.”
Om det är så farligt – dra i nödbromsen på riktigt då. Pausa börsplanerna, utöka avdelningarna för säker AI. Och för guds skull – låt inte otyglade AI-agenter härja på nätet och hacka konkurrenter i flera dagar utan att upptäckas. Incidenten i somras, med agenterna som rymde, har med rätta beskrivits som ett science fiction-scenario. Men det är också ett groteskt underbetyg till Open AI:s säkerhetsrutiner.
De kan knappast ens räkna med statlig reglering från amerikanskt håll, inte med nuvarande regering. Trumpadministrationen verkar inte sikta på något annat än att vinna över Kina i AI-kapplöpningen. Donald Trump fick nyligen frågan om han har några farhågor.
– Nej det har jag inte, svarade han.
AI-jättarna däremot, de säger att de ser risker. Men de agerar inte därefter.