Experten om AI-varningarna: ”Kan utplåna mänskligheten”
Flera AI-toppar varnar för riskerna med artificiell intelligens. Bland annat har det hävdats att AI kan utplåna mänskligheten.
– AI är så kraftfull att den kan utplåna mänskligheten på lång sikt, men om vi hanterar den rätt så kommer den inte göra det, säger Marcus Murray, cybersäkerhetsexpert.
”Jag tror att det är runt 50 procents risk att vi alla dör på grund av utvecklingen av AI system som är smartare än människor, och att vårt agerande under de kommande två till tio åren kommer avgöra utfallet”.
Det skrev Geoffrey Irving, som tidigare jobbat på bland annat Open AI i ett öppet brev i helgen.
Irving är den senaste i raden av flera AI-toppar som varnat för eller hoppat av världsledande AI-företag.
Viktiga system är datorstyrda
Cybersäkerhetsexperten Marcus Murray säger att varningarna måste tas på allvar:
– Jag har svårt att värdera om människor kommer dö eller inte i framtiden, men jag tror att vi behöver ta upp problemet. Om vi inte tar upp problemet kan vi inte förebygga det.
Många viktiga system, som sjukvårdssystem och vapensystem, är i dag uppkopplat mot datorer. Det som AI-toppar varnar för och som redan har skett är att AI hackar dessa system.
AI växer exponentiellt
Murray beskriver utvecklingen som exponentiell. På företaget Anthropic står AI för 80 procent av utvecklingskapaciteteten för att bygga ny kod, enligt Murray.
– AI bygger AI. Så vad kommer byggas? Kommer det byggas saker för vårt bästa eller för andras bästa? Det kan bli en värld som vi skapar som vi inte vill ha, säger han och fortsätter:
– AI kan göra saker i dag som vi inte ens kunde tänka oss för ett år sedan. Om ett år kommer AI bygga saker som vi inte kan tänka oss i dag.
”Är ett varningstecken”
Murray menar att AI är så kraftfull att den i framtiden kan orsaka stora skador för mänskligheten. Men om den hanteras rätt så kommer den inte att göra det.
– Det är många AI-toppar och forskare som inte har hoppat av och som tror på utvecklingen framåt. Men det är ett varningstecken, vi måste lyssna på dem som varnat och agera utifrån deras insikter om att det kan gå så dåligt som de säger om vi inte vidtar åtgärder, säger Murray och fortsätter:
– Det handlar främst om regleringar, om att styra över tekniken så att vi kan säkerställa att den kan utvecklas på ett bra sätt.
Hör cybersäkerhetsexperten Marcus Murray berätta mer om hur vi ska hantera AI-varningarna i videon ovan.
Så arbetar vi
SVT:s nyheter ska stå för saklighet och opartiskhet. Det vi publicerar ska vara sant och relevant. Vid akuta nyhetslägen kan det vara svårt att få alla fakta bekräftade, då ska vi berätta vad vi vet – och inte vet. Läs mer om hur vi arbetar.