Under våren har frågan om AI-användning i vapensystem återaktualiserats. Nyligen publicerade påven Leo XIV sin encyklika, där han varnar för utvecklingen av AI och menar att mänskligheten är i början av en lika stor omställning som industrialiseringen vid 1800-talets slut.
Helt autonoma vapensystem, även kallade mördarrobotar, är ett av de farligaste framtida användningsområdena för AI. Det är vapensystem som helt självständigt utan mänsklig kontroll kan söka, identifiera och förstöra mål, det vill säga människor, bilar, hus eller annan infrastruktur. De finns inte ännu men utvecklingen går snabbt, snabbare än politiken och juridiken.
Autonoma drönare används redan
Mördarrobotar för lätt tankarna till Arnold Schwarzenegger i ”Terminator”-filmerna. Men redan nu används AI för militära syften. I det ryska fullskaliga och folkrättsvidriga anfallskriget mot Ukraina har båda parter använt drönare med ökande autonomi som en viktig del av krigföringen. Nyligen bekräftades till och med dödsfall till följd av ett ukrainskt testtillfälle 2024 av helt autonoma drönare.
Israel använder också flertalet AI-system i Gaza och på Västbanken, bland annat för att identifiera måltavlor. På Västbanken finns också semi-autonoma vapen installerade vid checkpoints. Utöver att söka och identifiera mål kan dessa skjuta gummikulor, det som ofta kallas för non lethal ammunition men som i vissa fall faktiskt kan vara dödliga.
Det du skriver in i ChatGPT bidrar nu till att utveckla ett AI-verktyg som en av världens mest nyckfulla ledare har till sitt förfogande
Även Trumps så kallade krigsdepartement använder sig av AI, både vid den militära kuppen och kidnappningen av Maduro i Venezuela och för de första bombningarna av Iran i mars. Under våren har Trump också tecknat avtal med Open AI om ett fördjupat samarbete.
De flesta har någon gång använt OpenAI-tjänsten ChatGPT för att skriva en skoluppgift eller för att få råd om hur ett gympass kan läggas upp. Skillnaden sedan avtalet med Pentagon trädde i kraft är att all information som du skriver in i ChatGPT nu bidrar till att utveckla och förbättra ett AI-verktyg som en av världens mest nyckfulla ledare har till sitt förfogande. Kanske för att bomba ännu ett land i strid med folkrätten. Eller för att skapa mördarrobotar.
Mördarrobotar kommer med en rad etiska, juridiska och säkerhetsrelaterade problem. Tröskeln för att starta och bedriva krig kan sänkas om stater inte längre måste riskera sina egna soldaters liv. Hotet mot civila ökar eftersom robotar inte på samma sätt som människor kan avgöra vad som är ett hotfullt beteende och inte.
Mördarrobotar måste regleras
Det väcker också nya frågor om ansvarsutkrävande om en mördarrobot skulle begå krigsbrott eller kränkningar av mänskliga rättigheter. Vem är ansvarig då: vapenföretaget som utvecklat mördarroboten, programmeraren, staten som äger den, det tjänstgörande befälet eller själva maskinen?
Om AI används okritiskt i militära syften utgör det en stor fara, även om det inte handlar om ett helt autonomt system. Just nu går den tekniska AI-utvecklingen i en rasande takt, och den politiska viljan att juridiskt reglera mördarrobotar måste skyndas på.
I linje med den framgångsrika tekniknation som Sverige är, har regeringen i en ny ”heltäckande” AI-strategi satt målet att Sverige ska vara bland de tio främsta länderna i världen inom AI. Med det kommer också ett ansvar för att tekniken som utvecklas måste hanteras på ett respektfullt sätt.
Svenska Freds kräver att regeringens AI-strategi också inkluderar en reglering av AI-användning i vapensystem och att Sverige driver på för ett internationellt förbud mot helt autonoma vapensystem. Beslut om liv och död får aldrig överlåtas till en maskin.
Kerstin Bergeå, ordförande för Svenska Freds