Det här är en text från SvD Ledare. Ledarredaktionen är partipolitiskt oavhängig med beteckningen obunden moderat.
Är artificiell intelligens ett hot mot människan? Frågan blev plötsligt lite mer intressant sedan påve Leo XIV blandat sig i debatten. I sin första encyklika, en sorts programförklaring för sitt pontifikat, oroar sig påven för att vi inte lärt oss att hantera den snabba tekniska utvecklingen kring AI på ett sätt som gagnar människan.
Den som redan nu avskriver detta som bara ännu ett exempel på den katolska kyrkans vana till inskränkt fientlighet mot ny teknik bör tänka om. Tvärtom ger påven uttryck för en nyanserad syn på teknikens förmåga att ”läka, sammanföra, utbilda och skydda” samtidigt som den kan ”splittra, exkludera, och generera nya orättvisor”. Påven ber oss helt enkelt att fundera igenom de svåra etiska frågeställningarna kring AI, innan vi rusar in i en moralisk och samhällelig återvändsgränd.
Ny teknik har i alla tider haft ett janusansikte. Under 1500-talet spred Gutenbergs tryckpress ny kunskap, men också propaganda för att bränna häxor på bål – med den katolska kyrkans goda minne. Under 1900-talets första decennier gav ny kunskap om hur atomkärnor kan klyvas upphov till både en kraftfull energikälla men också massförstörelsevapen.
Tvärtom ger påven uttryck för en nyanserad syn på teknikens förmåga
En som förstod detta var Winston Churchill. I motsats till vad många tror handlar hans mest egensinniga bidrag till den politiska litteraturen inte om kampen mot nazismen, utan om kampen för en mänsklig relation till tekniken. I den något bortglömda essän ”Fifty years hence” från 1931 lyckades Churchill på ett makalöst sätt förutse många av de teknologiska landvinningar som kom att prägla vår nutid. Från kärnkraft till genmodifiering, labbodlat kött och artificiell intelligens.
Churchill hyllade den västerländska vetenskapens landvinningar och det välstånd som den producerade. Samtidigt riktade han ett varningens finger mot framtiden: Människan måste matcha en allt snabbare teknologisk utveckling med en lika stark moralisk kompass. Annars, skrev Churchill, kommer vi snart att ”behärskas av vår egen teknik och de krafter som de sätter i rörelse”.
I dag finns det återigen skäl att påminna sig om det. AI har på kort tid kommit att utmana vårt demokratiska samtal, våra liberala institutioner och den människocentrerade epok vi känner som antropocen. Botar som låtsas vara människor (så kallade ”bad bots”) står nu för över en tredjedel av internettrafiken. Vi kan bara föreställa oss vad som händer med den liberala demokratin om den fria åsiktsbildningen domineras av robotar, finansierade av utländska påverkansoperationer.
På ett liknande sätt finns en målkonflikt mellan effektivitet och kvalitet när den offentliga maktutövningens kognitiva processer delegeras till AI-agenter. I januari uppmärksammades att en jurist vid Eskilstuna tingsrätt hade lämnat in en AI-genererad inlaga med hallucinerade, det vill säga påhittade, rättsfall. Forskare i juridik vid Bostons universitet varnar för att kortslutningen av formella hierarkier, och att kvalitativa moraliska överväganden i individuella fall överlåts till kvantitativa, statistiska maskiner, kan bli våra institutioners undergång.
Gäller det också människans herravälde på jorden? I maj löste AI ett 80 år gammalt matematiskt problem. Samtidigt gör tekniken alltmer sofistikerade försök för att ta kontroll över sig självt. Maskinen är i färd med att bryta sig fri från människans grepp. Då blir den centrala politiska frågan: Vad händer med människans frihet när maskinerna inte bara dominerar oss i muskelkraft, utan i intellektuell förmåga?
Maskinen är i färd med att bryta sig fri från människans grepp.
Men i stället domineras den politiska debatten av en vänster som är upptagen av techbolagens vinster och en höger som fokuserar på den geopolitiska kapplöpningen med USA och Kina. Det är självklart helt avgörande att Europa ökar sin innovativa kapacitet, men om detta görs till priset av våra samhällsinstitutioner och vår frihet – det viktigaste vi har – kommer det ofrånkomligen att bli en pyrrhusseger.
Nu behövs politiker som också vågar fundera över tekniken i sig och dess relation till våra institutioner. Politiker som vågar vara lika komplexa som Churchill, och som förstår att det goda samhället kräver att etiken är lika stark som tekniken.