De tror faktiskt på AI-apokalypsen
Plötsligt pratade alla om AI-apokalypsen. Det började i förra veckan med att en forskare på Anthropic lämnade sitt jobb. ”De rusar rakt mot en självförbättrande superintelligens och spelar med våra liv”, skrev forskaren Jacob Coxon på X . ”De som utvecklar AI är övertygade om att den kan döda oss alla redan i slutet av detta decennium”. Han fick strax bekräftelse – av en chef på Anthropic. ”Jacob har rätt här – vi tror verkligen uppriktigt att AI skulle kunna utrota hela mänskligheten! Personligen tror jag att sannolikheten är >10 % inom det kommande decenniet. Jag tror att Anthropic gör sitt bästa, men vi har ännu ingen plan för att lösa problemet med alignment för superintelligens och är inte tydligt på väg att göra det”, skrev Evan Hubinger, som leder Anthropics alignment-forskning. Och när helgen kom publicerade Anthropics vd Dario Amodei en essä där han förespråkar en inbromsning