AI-forskare, säkerhetsexperter och FN-toppar varnar för att AI kan innebära ett existentiellt hot mot mänskligheten. Even Hubinger, forskare på AI-bolaget Anthropic, har uppskattat risken till att artificiell intelligens utrotar mänskligheten till över 10 procent.
En som delar oron är tv-profilen och minnesmästaren Jonas von Essen.
– Jag delar ju uppfattningen att det finns en överhängande risk att saker går väldigt illa. Men det hänger förstås på vad vi som mänsklighet gör, säger han i Radio Aftonbladet.
Oron har till och med gjort honom kliniskt deprimerad.
– När jag började sätta mig in i det här ordentligt och insåg hur allvarligt det var så blev jag deprimerad. Det känns på ett sätt som en ganska rimlig reaktion. Det var också på grund av att det pratades lite om det då och det kändes som att chansen att vi skulle göra någonting åt det såg ganska liten ut eftersom att det verkade som att folk inte tog det på allvar.
Är mer hoppfull
Under de senaste månaderna har något förändrats och von Essen upplever att världen har börjat prata mer om riskerna med AI.
– Så jag mår mycket bättre. Jag är mer hoppfull.
Vad är det som skrämmer dig mest?
– Det som skrämmer mig mest är att det är en extremt kraftfull teknik. Redan nu så kan man ju då genomföra väldigt storskaliga cyberattacker till exempel och AI kan ju förmodligen snart designa kanske virus, biologiska vapen och andra vapen.
Anders Sandberg, forskare vid institutet för framtidsstudier, är desto mer positiv.
– Min uppfattning är att om det är 10 procents risk att allt går åt helsike så är det 90 procents chans att det går ganska bra, säger framtidsforskaren i Radio Aftonbladet.
Uppmaningen: Sätt press på politiken
Sandberg menar att det går att göra någonting åt det, genom att ställa krav och utveckla bättre teknik. Han tycker också det är viktigt att experimentera för att förstå vad tekniken kan och inte kan göra.
Von essen tycker att det är viktigt att sätta press på både politikerna och företagen så att de tar situationen på ännu större allvar.
– Som det ser ut nu hänger det på att företagen ska bromsa och reglera sig själva och det är en helt ohållbar situation. Så vi behöver mycket mer politik kring det.