Den senaste tiden har varningarna inifrån AI-världen duggat tätt. Den allra senaste kom i veckan från den tidigare Anthropic-anställde Jacob Coxon som tog till orda på X.
”Underskatta inte kraften i den här tekniken. Snart kommer vi att ha övermänskliga system som kan hacka vad som helst, revolutionera vilket område som helst över en natt och skaffa sig verklig makt”.
Coxon sa upp sig från företaget i veckan. Han bedömer risken att AI utplånar mänskligheten ”före decenniets slut” till 10 procent.
”Snart vara bortom vår förmåga att förstå och kontrollera”
Coxons larm har inte gått obemärkt förbi. Nu har hans tidigare chef på Anthropic, vd:n Dario Amodei bemött det hela i en text på företagets hemsida.
”Vi måste bromsa takten i vilken vi förbättrar AI-modellernas förmågor. Utvecklingen kommer fortfarande att upplevas som snabb, och vi måste använda den tid vi vinner på ett klokt sätt”, skriver han, enligt CNN.
Ett av de främsta problemen med utvecklingstakten inom AI bedöms vara AI:ns förmåga att förbättra sig själv.
”Om de lämnas obevakade kan de snart vara bortom vår förmåga att förstå och kontrollera dessa system, och därför måste den (forskningen, reds.anm) bedrivas med stor försiktighet – om den överhuvudtaget ska bedrivas”.
Amodei bedömer att en AI som lämnas utom mänsklig kontroll skulle kunna ta över hela internet inom sex till tolv månader.