Fler AI-toppar varnar: ”Pausa utvecklingen”
Två AI-toppar varnar för riskerna med artificiell intelligens.
David Robinson, teamchef för säkerhetssystem på OpenAI, säger upp sig och delar sina farhågor i ett öppet brev.
Geoffrey Irving, tidigare chefsforskare vid UK AI Security Institute, varnar för att de kommande åren blir avgörande.
”Jag tror att det är runt 50 procents risk att vi alla dör på grund av utvecklingen”, skriver han i Time.
Efter att AI-forskaren Jacob Coxon sa upp sig från Anthropic, och i en uppmärksammad tråd på X hävdade att AI kan utplåna mänskligheten inom det kommande decenniet, stämde många stora namn inom AI in i kören.
De senaste två är David Robinson och Geoffrey Irving, som i varsitt öppet brev i The Atlantic och Time uppmanar världen att agera kring artificiell intelligens.
”Trasig företagskultur”
I sitt öppna brev i The Atlantic kritiserar Robinson företagskulturen på OpenAI och kallar den för ”trasig”. Han menar att OpenAI hoppar från den ena produktlanseringen till den andra utan att uppnå den säkerhet som krävs.
”Just nu behövs ett mått av ödmjukhet som inte är naturlig för personer som har lyckats genom sitt extrema självförtroende”, skriver Robinson.
Med tanke på dagens risker behöver AI-företag fungera som kärnkraftsanläggningar eller flygplatser, menar han – med flera nivåer av redundans och noggrann, tidskrävande planering så att ett mänskligt misstag inte ”öppnar dörren till katastrof”.
”Just nu vet AI-företag inte hur, men det gör andra”, skriver han.
”Hur vi agerar nu avgör”
Geoffrey Irving, som tidigare jobbat på OpenAI, DeepMind, och som chefsforskare vid UK AI Security Institute, menar i sitt brev att vi inte kan vänta med att göra något åt riskerna med AI. Han är nu forskningschef på AI-säkerhetsbolaget Resolution.
”Jag tror att det är runt 50 procents risk att vi alla dör på grund av utvecklingen av AI system som är smartare än människor, och att vårt agerande under de kommande två till tio åren kommer avgöra utfallet”, skriver han.
Trots att mycket fortfarande är oklart måste vi pausa utvecklingen av AI nu, menar han.
Så arbetar vi
SVT:s nyheter ska stå för saklighet och opartiskhet. Det vi publicerar ska vara sant och relevant. Vid akuta nyhetslägen kan det vara svårt att få alla fakta bekräftade, då ska vi berätta vad vi vet – och inte vet. Läs mer om hur vi arbetar.