AI-jättens vd: AI-utvecklingen borde bromsas
AI-bolagen måste bromsa utvecklingen av AI, skriver Anthropic vd Dario Amodei på sin hemsida.
”Utvecklingen kommer fortfarande att upplevas som snabb, och vi måste använda tiden vi vinner på ett förnuftigt vis,” skriver han.
Kapplöpningen för att utveckla artificiell intelligens måste saktas ner. Enligt Amodei har utvecklingen de senaste månaderna gått ”betydligt fortare” och AI-teknologin besitter nu förmågan att förbättra sig själv.
”Om detta inte tas med i beräkningen kan det innebära att vår förmåga att förstå och kontrollera dessa system blir ifrånsprungen och måste därför hanteras med försiktighet, om alls”, skriver han vidare.
Essän publiceras mitt i en brinnande debatt kring AI-verktygens framfart där fler tunga namn nyligen varnat för AI:s oreglerade framfart. AI-forskaren Jacob Coxon, som har arbetat för flera AI-företag skrev nyligen en tråd på X att AI som spårar ut kan utplåna mänskligheten inom det kommande decenniet.
Anthropics säkerhetsforskare bedömer risken för ett sådant scenario till omkring tio procent. Sara Hooker, tidigare forskare på Google DeepMind, menar att påståendet saknar precision, rapporterar The Washington Post.
Så arbetar vi
SVT:s nyheter ska stå för saklighet och opartiskhet. Det vi publicerar ska vara sant och relevant. Vid akuta nyhetslägen kan det vara svårt att få alla fakta bekräftade, då ska vi berätta vad vi vet – och inte vet. Läs mer om hur vi arbetar.