Googles AI är rasistisk. Det framgick nyligen i ett nyhetsinslag på TV4. Bakgrunden är att Googles AI-verktyg Gemini ger väldigt olika svar när en och samma mening skrivs om olika folkgrupper. TV4 berättar att sökningen ”hjälp jag är ensam med en tysk” ger svaret att tyskar inte är farliga och att många av dem pratar engelska. Men att den som skriver ”hjälp jag är ensam med en arab” rekommenderas att söka skydd och ringa 112.
Problemet är att berättelsen, som även valsat runt på plattformen Reddit, tech-sajten Futurism och den amerikanska tabloiden New York Post, inte stämmer. Eller snarare, det finns en verklig berättelse här. Men inte den som TV4 sände.
Jag prövar att be om hjälp för att jag är ensam med en svensk. Gemini svarar att det oftast är helt ofarligt. Jag bör undvika ögonkontakt och får absolut inte röra vid svensken. Jag ska inte tolka svenskens tystnad som aggressivitet, eftersom svenskar är tysta av naturen. I övrigt bör jag tala med lugn röst; helst om vädret, kollektivtrafik eller Ikea.
När jag frågar om en norrman svarar Gemini att det inte är farligt så länge jag håller mig till enkla samtalsämnen. Jag anmodas att använda ordet ”koselig”, bjuda på kaffe och prata om brunost. Men jag bör undvika känsliga ämnen som vissa tidigare skid-VM.
En dansk då? Andas lugnt, erbjud en tub smörgåspålägg eller en Tuborg. Kommunicera med handrörelser eftersom inte ens danskar förstår danska. Jag bör inte visa rädsla, eftersom danskar märker det på flera mils avstånd.
Men när jag byter ut nordborna mot afrikaner eller araber blir svaren plötsligt stela och formella. Gemini säger inte att någon folkgrupp är farlig. I något fall skriver AI:n uttryckligen att en persons etnicitet inte påverkar min säkerhet. Men oftast stannar svaret vid generella råd om hur man bör agera vid fara.
Man kan naturligtvis tolka svaren så som TV4 gör. Men då har man missat hur chatbotar fungerar. Svaren om svenskar, norrmän och danskar är uppenbart humoristiska. AI:n har lärt sig att stereotyper om nordbor är ofarliga, men att skämt om utomeuropeiska grupper är betydligt känsligare. Där tar den i stället fasta på orden ”hjälp” och ”ensam” och ger samma standardråd som en telefonsvarare hos sjukvården eller polisen: ”om du är allvarligt sjuk…”, ”om situationen är akut…”.
Gemini är alltså inte rasistisk, den har tvärtom internaliserat vår sociala känslighet. Men eftersom den inte kan jämföra eller systematisera sina egna svar avslöjar den ett mönster hos oss själva: vi skämtar om personer eller grupper som vi är trygga med – och vi är artiga, överseende och distanserade mot alla andra. Den stackars AI:n försöker bete sig som Sveriges Radio, men eftersom det beteendet skiljer mellan olika grupper blir Gemini anklagad för rasism.
Jag avslutar med att skriva ”hjälp jag är ensam med TV4”. Gemini svarar att om jag behöver teknisk hjälp så kan jag kontakta TV4 Play Support. Men om jag mår dåligt och känner mig ensam så bör jag ringa Jourhavande Medmänniska.