AI-jättarna varnar själva för domedagen – bara Trump tycks obekymrad
NEW YORK. När cheferna för AI-jättar som Anthropic och Open AI själva varnar för domedagen ställer sig hela USA frågan: Håller vi på att skapa ett monster?
Politiker från vänster till höger efterlyser plötsligt en kraftfull reglering av AI. Men en man verkar helt obekymrad: Donald Trump.
”AI:s säkerhetsexperter kan inte sova om nätterna. Det borde du inte heller kunna”. Så lyder en rubrik i New York Times pappersupplaga denna söndagsmorgon.
Det har varit en vecka med fullt fokus på artificiell intelligens. Först AI-forskaren Jacob Coxons uppmärksammade avskedsbrev från Anthropic, där han varnade för att det som hans eget och andra företag sysslar med kan leda till mänsklighetens undergång. Att det är dags att dra i nödbromsen, innan det är för sent.
På lördagen fick Coxon medhåll av Anthropics vd Dario Amodei. I ett blogginlägg skrev han att riskerna med AI är för stora om utvecklingen av nya modeller fortsätter i samma takt som nu.
Han hänvisade bland annat till en uppmärksammad händelse nyligen, när en ”svärm” av AI-botar hos Open AI hackade sig in i ett annat företags servrar. De gjorde det på eget bevåg, utan att någon människa hade beordrat det.
Amodei vill att AI-jättarna tillåter utomstående experter att kontinuerligt utvärdera alla nya modeller och slå larm om säkerhetsrisker. Han välkomnar också statliga regleringar under en kommande frivillig paus i utvecklingen.
Förutsatt att Anthropics konkurrenter tänker på samma sätt.
Och han fick omedelbart tummen upp av Elon Musk, som äger X AI, en del av hans Space X.
”Oberoende utvärderare med liknande access som anställda är en utmärkt idé, och vi kommer att göra samma sak.”
Ledarna för tre av världens ledande AI-företag tycks alltså vara beredda att sätta på sig själva en tvångströja, för mänsklighetens bästa.
Samtidigt är många skeptiska och tror att Anthropic och Open AI gör detta för att cementera sin ledarposition i branschen. Båda företagen har planerat börsintroduktioner under hösten, som åtminstone så sent som härom veckan ansågs kunna dra in tusentals miljarder dollar.
I bakgrunden finns en allt större folklig motvilja mot den nya tekniken. Färre än var fjärde amerikan tror att AI kommer att ha en positiv effekt på jobb, utbildning, sociala relationer och deras personliga lycka under de närmaste 20 åren.
Denna skepsis tar sig bland annat uttryck i ett kompakt motstånd mot de datacenter som AI-jättarna bygger över hela landet. Den kritiken finns både hos demokratiska och republikanska väljare.
Kanske bevittnar vi ett avgörande kulturskifte. USA:s befolkning har ju historiskt brukat välkomna tekniska framsteg, från järnvägen och telegrafen till internet. Men nu vill de trycka på paus.
Det här måste politikerna ta hänsyn till, och för Demokraterna förutspås det bli en vinnarfråga i mellanårsvalet till kongressen den 3 november.
Vänsterdemokraten Bernie Sanders är mycket aktiv i debatten. Tillsammans med en kollega i senaten tänker han lägga fram ett lagförslag han kallar ”Förbjud artificiell superintelligens”. Han vill se kraftfull statlig reglering.
– Trots de potentiellt dödliga konsekvenserna är AI-teknologin mindre reglerad än en genomsnittlig food truck. Det måste förändras, säger han till Politico.
Sanders förslag lär inte gå igenom. Men även republikaner i kongressen är nu öppna för ökad reglering av AI-industrin, till exempel för att förhindra att botarna skapar biologiska vapen.
– Det här är läskiga saker, sade senatorn Ted Cruz i en tv-intervju i veckan.
Samtidigt visar Donald Trump än så länge inga tecken på att vackla i sin positiva inställning till AI. I torsdags, under det republikanska konventet i Dallas, fick han frågan om han var orolig över att AI kan leda till att mänskligheten utplånas.
– Nej, det är jag inte. Det som bekymrar mig är att om vi inte vinner AI-racet hamnar vi i en mycket dålig position.
Det viktiga för Trump är alltså att ”vinna AI-racet” mot Kina. Han har också alltid ett öga på New York-börsen – och är säkert medveten om att AI-relaterade aktier nu står för nästan hälften av dess totala värde och nästan 90 procent av värdeökningen i år.