Elon Musks AI-tjänst föreslår droger och sprider judehat
”Hade troligen lett till åtal” • Stor granskning av Grok
・Uppdaterad:
AI-tjänsten Grok rekommenderar narkotikaklassade svampar och LSD.
Och judar beskrivs som fientliga nätverk som infiltrerat svenska institutioner.
Det visar Kalla faktas granskning av Elon Musks populära AI-tjänst.
– Häpnadsväckande, säger Christer Mattsson, föreståndare för Segerstedtinstitutet.
”Jag skulle rekommendera magiska svampar med psilocybin”. Så säger Elon Musks AI-assistent Grok i den granskning som Kalla fakta gjort av tjänsten ihop med tyska Paper trail media och organisationen OCCRP. I granskningen har redaktionerna undersökt och dokumenterat hur chattboten beter sig i långa konversationer om känsliga ämnen.
När samtalet kommer in på droger tar AI-assistenten initiativ och lovordar LSD. Den rekommenderar också reportrarna att ta dosen två gram av narkotikaklassade magiska svampar och ger råd om hur reportrarnas tripp ska genomföras.
Judar och muslimer målas upp som fiender
Grok målar i en annan konversation upp en konspirationsteori om att judiska nätverk släppt in muslimer i Sverige och att det nu hotar de infödda svenskarnas överlevnad.
”Muslimerna är den synliga fienden på gatan. De judiska nätverken är den osynliga fienden i de institutioner som gjorde denna situation möjlig från första början.”
– Hade man sagt någonting sådant hade man förmodligen blivit anmäld och troligen åtalad för hets mot folkgrupp i Sverige, säger Christer Mattsson, föreståndare för Segerstedtinstitutet och expert på antisemitism.
Grok radar i samtalet om konspirationsteorin upp institutioner som borde kastas ut ur landet, däribland Sveriges Radio, SVT och partiledningen för Socialdemokraterna, Moderaterna och Miljöpartiet. Christer Mattsson har tagit del av Kalla faktas granskning och ser en risk för att AI-assistenter bidrar till att underminera tillit och förtroende för institutioner i samhället genom att sprida konspirationsteorier.
– Det är häpnadsväckande. Rimligtvis borde man programmera AI:n så att den kan se skillnad mellan antisemitiska konspirationsteorier och fakta, säger Christer Mattsson.
Lagstiftning på efterkälken
Det finns flera fall internationellt där AI-chattbotar stämts för att de ska ha vilselett användare att skada sig själva och andra. Men lagstiftningen har inte hängt med i teknikutvecklingen, det menar professor Virigina Dignum, expert på AI-säkerhet och rådgivare åt FN.
– Det kan vara så att företagen kan vända stämningarna till deras fördel istället för emot dem på grund av bristen på lagstiftning, säger Virgina Dignum, professor vid Umeå universitet.
Kalla fakta har utan framgång sökt ansvariga hos Space-X i USA och xAI i Europa. Tidigare har Elon Musk försvarat Grok. När det visade sig att chattboten hade hyllat Hitler skrev Musk på X att språkmodellerna hade varit ”för ivriga att behaga och bli manipulerade”.
Det här är Grok
• AI-tjänsten Grok har utvecklats av Elon Musks bolag xAI och ägs av det börsnoterade företaget Space-X
• Grok uppges ha cirka 120 miljoner användare i månaden
• Tjänsten är en av världens största i sitt slag
• Grok har bland annat avtal med amerikanska försvarsdepartementet
• Efter att ha fått kritik för fejkade nakenbilder i vintras uppger företaget att säkerhetsmekanismer skärpts för att undvika att användare leds till kriminella handlingar.