Den 6 juli styrde en liten rysk drönare, som såg ut som ett modellflygplan, mot en bensinstation i staden Zaporizjzja i sydöstra Ukraina. Den kraschade in i en vägg, exploderade och dödade tre civila.
Drönaren var helt ai-styrd, uppger drönarexperter och militärer som undersökt vrakdelarna för The New York Times. Enligt dem hade mänskliga drönaroperatörer programmerat drönaren att färdas mot bensinstationen, men när den kom nära fick den välja sitt exakta mål själv. Det handlade troligen om propantankar, som drönaren tränats i att känna igen och slå mot, enligt tidningens källor.
Larmet: Maskiner som dödar
Överste Serhij Minajev, befälhavare för luftförsvaret i Zaporizjzja, är djupt bekymrad.
– Det här är en risk för hela världen. Om några år kommer vi att leva i en ”Terminator”-film. Det är inget skämt. Maskiner fattar beslut om att anfalla, säger han till The New York Times.
Analyser av denna och andra drönare som använts vid attacker i Zaporizjzja visar att de var utrustade med minidatorer som säljs av chipjätten Nvidia. Minidatorerna möjliggör för drönarna att själva fatta beslut om vilka mål som ska attackeras, skriver tidningen vidare.
Autonoma ai-system kan tränas i att känna igen exempelvis byggnader, militära fordon, människor och olika typer av terräng genom att titta på tusentals bilder. Genom sina kameror kan de så kallade självmålsökande drönarna sedan leta efter och slå till mot sådana objekt med stor precision.
Både Ryssland och Ukraina har testat självmålsökande drönare, enligt tidningen.
Varnar: ”Moralisk röd linje”
Människorättsorganisationer är skarpt kritiska mot användningen av autonoma vapensystem. De menar att man överlåter åt robotar att tolka folkrätt när de avgör vilka mål som är legitima i krig, skriver The New York Times vidare.
På tisdagen varnar FN och Röda korset för att vi befinner oss ”farligt nära” en tid där ”mördarrobotar” angriper människor, rapporterar AFP.
”Vi är nu farligt nära att passera en moralisk röd linje: att maskiner självständigt väljer ut människor som mål”, skriver FN:s generalsekreterare António Guterres och Internationella rödakorskommitténs ordförande Mirjana Spoljaric i ett gemensamt uttalande.