I helgen publicerade AI-jätten Anthropics vd Dario Amodei ett långt blogginlägg där han uppmanade till en gemensam inbromsning av AI-tekniken.
“Vi måste sakta ner takten med vilken vi förbättrar AI-modellernas förmågor. Framstegen kommer fortfarande att verka snabba, och vi måste använda tiden vi vinner på ett klokt sätt”, skriver Amodei.
I inlägget, som fått stöd av både Open AI:s vd Sam Altman och techmiljardären Elon Musk, pekar Amodei på att AI nu har en “växande förmåga” att utveckla sig självt.
“Om detta inte tas med i beräkningen riskerar vår förmåga att förstå och kontrollera systemen att bli ifrånsprungen”, skriver han.
Olöst problem
Olle Häggström är den svenska expert som profilerat sig i frågan om att AI måste regleras. Han tycker inte att Amodei går tillräckligt långt.
– Vi behöver ett fullständigt stopp för frontier-modellerna, säger han till TT.
Han syftar på dagens allra kraftfullaste språkmodeller. Enligt Häggström saknar världens ledande AI-bolag en plan för att få de riktigt kraftfulla AI-systemen att verka i människans intresse.
– Det är ett grundläggande olöst problem som vi behöver lösa innan vi får superintelligent AI, säger Olle Häggström.
Nyligen varnade den avhoppade AI-forskaren Jacob Coxon för att artificiell intelligens kan bli mänsklighetens undergång. Enligt en annan högt uppsatt forskare på Anthropic, Evan Hubinger, är risken ”större än tio procent” att det sker inom de kommande tio åren.
Ganska osannolikt
Andra avfärdar domedagsprofetiorna.
– Risken att AI skulle spåra ur och förgöra mänskligheten ser jag som ganska osannolik, säger Fredrik Heintz som forskar om artificiell intelligens och autonoma system vid Linköpings universitet.
Fredrik Heintz pekar i stället på risken att människor kan använda AI för att begå olika brott, som till exempel terrorhandlingar.
Även techtopparna Mark Zuckerberg (Meta) och Jensen Huang (Nvidia) avfärdar behovet av en gemensam inbromsning. De hävdar i stället att ansvaret ligger hos de enskilda företagen.