AI-forskaren Jacob Coxon, som nyligen lämnade Anthropic i protest och tidigare jobbat på Open AI, anser att ingen av branschjättarna agerar ansvarsfullt.
”De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut”, har Coxon skrivit på X.
I en intervju med CNN säger Anthropics vd Dario Amodei att han ”oftare håller med Jacob än inte”. På frågan ”tror du verkligen att AI kan döda alla människor, och hur stor är risken?” svarar Amodei:
– I stället för att kasta ur mig något i stil med att ”det är tio procents risk” så tror jag det är mer konstruktivt att säga att det beror på vilken väg vi väljer. Och väljer vi rätt väg är risken att något går snett väldigt låg. Men väljer vi fel väg kan risken vara ännu högre än så.
Han menar att det är viktigt att branschen och världen ”jobbar tillsammans för att göra AI säkert”.
– Men om vi jobbar för långsamt tror jag fortfarande att fel personer kommer att styra över teknologin. Och det kommer att öka sannolikheten rejält för att saker går snett, säger Amodei.
”Vi måste bromsa”
Amodei har skrivit ”vi måste sakta ner farten med vilken vi förbättrar AI-modellernas förmågor” på Anthropics sajt. AI-teknologin besitter nu förmågan att förbättra sig själv, enligt Amodei.
”Om detta inte tas med i beräkningen kan det innebära att vår förmåga att förstå och kontrollera dessa system blir ifrånsprungen och måste därför hanteras med försiktighet”, skriver Amodei.
Han får medhåll av Open AI-vd:n Sam Altman på X:
”Jag håller med Dario om att vi måste bromsa.”
Världens rikaste man Elon Musk, vars bolag xAI utvecklat AI-chattboten Grok, skriver på X att ”Dario har rätt”.