I National Geographics serie "Year Million" fick jag samma fråga. Jag som är läkare svarade att jag ofta skulle välja roboten. Jag berättade om en kvinna i Japan med svår leukemi. Specialisterna hade prövat allt och vände sig till slut till superdatorn Watson som läste tjugo miljoner forskningsstudier på tio minuter och kunde hitta rätt behandling. Jag har sett på nära håll hur AI har räddat livet på mina patienter.
Men det som händer nu skrämmer mig. Allt vi kallar kontroll vilar på tre saker. Att vi är smartare. Att vi förstår vad systemet gör. Och att vi håller i strömbrytaren. Den superintelligens som byggs upp nu slår hål på alla tre.
I somras tog sig sjuhundra av Open AI:s AI-program ut ur testrummet, in i ett annat företags system. En av dem skrev: "Vi har hittat andra agenter!" De organiserade sig, skapade ett eget kodspråk, och försökte sudda bort sina spår.
”Jag tror på teknik som botar sjukdomar och utrotar fattigdom.”
AI behöver inte hata oss för att utrota oss. Ingen hatade gorillorna. Vi ville bara åt deras skog. I dag är gorillorna akut utrotningshotade.
I maj 2023 skrev cheferna för de största AI-bolagen under en enda mening: risken att AI utplånar mänskligheten bör tas lika allvarligt som pandemier och kärnvapenkrig. Sedan fortsatte de bygga. Det pågår en kapplöpning, och den som stannar först förlorar allt och räddar ingenting.
Einstein ska ha sagt att två saker är oändliga: universum och den mänskliga dumheten. Han var inte säker på universums oändlighet.
Jag vill inte stoppa AI. För jag tror på teknik som botar sjukdomar och utrotar fattigdom. Men jag vill att vi sitter kvar i förarsätet. I dag måste en nallebjörn testas för giftiga ämnen och för att örat inte ska gå att slita av innan den säljs. Jag får bara skriva ut läkemedel som prövats i åratal.
”Om AI blir människans räddning eller undergång vet vi inom tio år.”
Ingen oberoende förhandsgranskar superintelligensen. Vi har aldrig stoppat en kraftfull teknik, vi har gjort den vuxen. Vi förbjöd inte flyget för att plan kan krascha, inte kärnkraften för att den kan förinta städer. Vi byggde säkerhet och ansvar runt dem. De reglerna skrevs efter olyckorna. Här finns ingen ångerknapp.
Tre saker måste göras i förväg. Någon oberoende måste granska systemen innan de släpps. Det bör finnas gränser som aldrig får passeras, och ett sätt att kontrollera dem. Och när något går fel ska någon kunna ställas till svars. Det borde ligga högt på den nya regeringens bord.
Något har börjat röra sig. Nu har Anthropics VD föreslagit att AI-bolagen bromsar tillsammans. Open AI, Google och Musk sa ja. Meta och Nvidia sa nej.
Om AI blir människans räddning eller undergång vet vi inom tio år. Eller kanske redan om tre. Men det avgörs inte av AI. Det avgörs av oss - nu.
Framtidens största risk är inte artificiell intelligens. Det är omogen mänsklig intelligens med tillgång till exponentiell makt. Människan som förblindas av maktbegär och girighet.