Lämnar AI-företaget – varnar för mänsklighetens undergång
AI som spårar ur kan utplåna mänskligheten inom det kommande decenniet. Det hävdar AI-forskaren Jacob Coxon, som har arbetat för flera AI-företag. En högt säkerhetsforskare på Anthropic uppskattar risken till omkring tio procent.
I en tråd på X skriver Coxon att många chefer och seniora forskare inom AI-branschen uttrycker större oro privat än offentligt. Han varnar för en kapplöpning mot superintelligent AI utan tillräcklig förståelse för hur systemen fungerar.
Coxon uppmanar därför AI-forskare att ifrågasätta utvecklingen och kräva bättre säkerhetsförutsättningar.
Kritik mot uttalandet
Evan Hubinger, säkerhetsforskare på Anthropic, bedömer risken för ett sådant scenario till omkring tio procent. Uttalandet har kritiserats för att sakna vetenskaplig grund.
Sara Hooker, tidigare forskare på Google DeepMind, menar att påståendet saknar precision, rapporterar The Washington Post.
Hör SVT:s ekonomikommentator Alexander Noréns tankar om forskarnas uttalanden i klippet ovan.
Så arbetar vi
SVT:s nyheter ska stå för saklighet och opartiskhet. Det vi publicerar ska vara sant och relevant. Vid akuta nyhetslägen kan det vara svårt att få alla fakta bekräftade, då ska vi berätta vad vi vet – och inte vet. Läs mer om hur vi arbetar.