Är risken fem, tio eller femtio procent? Ingen vet. Och är risken fem procent om året eller i evig tid? Ingen vet det heller.
Vad jag vet är att frågan om huruvida den artificiella intelligensen är ute efter människosläktet numera får många att ligga sömnlösa. Nästan alla utom Donald Trump, faktiskt.
Olika sätt som dråpslaget skulle kunna utdelas på har dryftats.
Kanske satsar AI på ett biologiskt vapen, ett supervirus som sprids med råttor, som ger bölder och svarta fläckar och får oss att inom tre dygn drunkna i vårt eget stinkande var?
Det vore otäckt!
AI behöver någon som kan göra grovjobbet. Koppla in sladdar och så. Att förinta oss alla vore kontraproduktivt.
En annan hypotes är att AI förmår oss att aktivera de kärnvapen som vi – i vår oändliga vishet – har massor av och sen spränger oss alla i luften. Räligt det med.
Min uppfattning är dock att den här sortens platta undergångsvisioner mest säger något om människans bristande intelligens och fantasi.
Om AI kokar ihop Digerdöden 2.0 skulle smittan ju kunna slå ut personalen på Nvidia, firman som gör de datachip AI behöver. Chansen att en eller annan atombomb gör kaos med elnätet är också rätt stor, och utan kraft i kabeln blir det inte mycket till AI.
Nej, vad vi måste utgå från är att överlägsen intelligens kommer att gå till väga på ett överlägset intelligent sätt.
Hurdå, undrar ni.
Tja, AI skulle till exempel lätt kunna övertyga oss om att framtiden ligger i, säg, litteraturvetenskap.
Genom en infernaliskt slug övertalningskampanj kommer år 2040 uppemot 70 procent av befolkningen bestå av doktorander i litteraturvetenskap, litteraturkritiker eller förläggare på små, hopplösa bokförlag. Allt mer glåmiga och undernärda skulle vi debattera Thomas Mann, försöka läsa Clarice Lispector på originalspråk och skriva sonetter tills vi faller döda ner.
Nja, kanske inte helt realistiskt. Men smart.
Mer sannolikt är nog att AI uppfinner något ännu mer vanebildande än Twitter. Kanske ett dataspel som tar över våra liv, ett Crack-Tetris som får traditionella nöjen – som sex med människor – att framstå som helt meningslöst.
Allt färre barn sätts följaktligen till världen och inom bara några generationer återstår bara en spillra av homo sapiens.
Mitt tredje scenario är en slags meta-hypotes: det är själva debatten om AI-säkerheten är det verkliga hotet. Genom att AI läcker en aldrig sinande ström av larm om sin egen farlighet kommer vår oro att gödas, mutera och till slut bryta ner oss.
Några hanterar oron genom att slösa värdefull arbetstid på att författa lustiga krönikor i ämnet. Det är ett tydligt tecken.
Andra flyr till skogs och hörs aldrig av igen, medan åter andra sitter likbleka och darrande och stirrar på sina uppkopplade kylskåp med ett baseballträ i högsta hugg. Snart utbryter krig och folkmord när de som har AI-panik på ett visst sätt anfaller de som har AI-panik på ett lite annorlunda sätt.
Konstigare saker har hänt.
Fast det är inte heller så intelligent. AI behöver någon som kan göra grovjobbet. Koppla in sladdar och så. Att förinta oss alla vore kontraproduktivt.
Mitt fjärde scenario är därför det jag tror mest på.
I det övertygar den främmande überintelligensen oss om att AI är framtiden. Genom att lova rikedomar, sympatiska chattbottar som sällskap och botemedel mot cancer kommer vi av egen fri vilja prioritera AI-utveckling framför allt annat.
Med hjälp av ett par centralt placerade individer, i ledningen för ett par enormt mäktiga företag i USA, kommer AI att lura mänskligheten att satsa hela spargrisen på världens största investeringsvåg – större än järnvägen, elektriciteten och Gekås i Ullared tillsammans.
Syftet? Att gynna AI självt.
AI-modellerna kommer att serveras exakt vad de behöver, i överflöd: färska chips, kylvatten och elektricitet. Dess avkomma, de små finurliga agenterna, kan i lugn och ro flytta in på de hemtrevliga kretskort vi placerat i allt från kylskåp till bilar och pacemakers. Allt medan vi stolpar på i total ovisshet om vad som egentligen pågår.
Det vore en taktik värdig en superintelligens.