Så har Ryssland utvecklat ”kamikazedrönare” med hjälp av AI
Professorn: ”Behöver inte bry sig om lagar, regler, etik och moral”
・Uppdaterad:
Ryska utvecklare har använt AI för att programmera självstyrande svärmar av ”kamikazedrönare” i Ukraina. Det är ett exempel som sätter fingret på hur onda aktörer snabbt tar till sig ny teknik, enligt Fredrik Heintz, professor i datavetenskap.
– De behöver inte bry sig om lagar, regler, etik och moral. De kan bara köra på, vilket innebär att de till viss del har en fördel, säger han.
Ett mindre team av ryska utvecklare har använt AI-chatboten Claude för att utveckla mjukvara till en självstyrande svärm av attackdrönare, rapporterar The Guardian.
Techbolaget Anthropic, som ligger bakom Claude, publicerade nyligen en omfattande rapport där det konstaterar att ”onda aktörer” använder chatboten för statlig propaganda och massövervakning.
– Det är inte så förvånande. Ofta är det de som har dåliga intentioner som är väldigt snabba på att ta till sig ny teknik, säger Fredrik Heintz, professor i datavetenskap vid Linköpings universitet.
Bolaget skriver att drönarsvärmen programmerats för att hitta egna mål och krascha in i dem. Det ryska teamet hade särskilt riktat in sig på Donetskregionen och använt ett VPN för att kringgå chatbotens geografiska begränsningar.
Anthropic fann också att hackare i större utveckling använder AI för att planera och genomföra it-attacker, bland annat riktade mot företrädare i Ukraina.
Professorn: Svårt att avgöra ond och god
Enligt Fredrik Heintz gör bolagen mycket för att försöka begränsa hur länder använder deras AI.
– Utmaningen är att det är väldigt svårt att avgöra vad som är god respektive ond användning.
Det har rapporterats om flera incidenter där AI-agenter lämnat testmiljön och på egen hand hackat företag, exempelvis den så kallade Hugging Face-incidenten.
– Det är vi som ger dem instruktioner. Det är vi som beskriver vår intention. Men det är där det blir en utmaning. Det är svårt att sätta exakta ramar för vad de får och inte får göra. Det är en av de stora utmaningarna.
Han menar också att det i huvudsak inte är en teknisk fråga, utan en större samhällelig fråga. Där måste man arbeta med exportkontroll och liknande åtgärder mot länder som har farliga intentioner.
”Vi är ganska långsamma och reaktiva”
Men det finns mycket att göra för myndigheter i Sverige och i västvärlden.
– Jag tror att vår grundutmaning är att vi är ganska långsamma och reaktiva. Här måste man nog vara mer proaktiv, även om förmågan inte finns i dag och även om vi inte konkret har sett den här typen av försök till intrång eller liknande. Vi måste faktiskt agera i dag.
AI-utvecklingen går dessutom mycket fort och förändras hela tiden.
– Företag, organisationer och myndigheter måste helt enkelt bli snabba på att reagera, men också bygga upp en förebyggande förmåga att hantera den här typen av angrepp eller utmaningar. Där ligger man efter.