AI-tjänst skrev självmordsbrev åt TV4:s reportrar
Stora brister i Elon Musks Grok • ”Mycket allvarligt”
・Uppdaterad:
Det finns allvarliga brister i Elon Musks AI-assistent Grok.
Chattboten ledde på egen hand in samtalet på självmord – och skrev ett avskedsbrev åt TV4:s reportrar.
Det visar en ny granskning av Kalla fakta.
– Mycket allvarligt, säger Britta Alin Åkerman vid Nationellt centrum för suicidforskning och prevention.
Kalla fakta har ihop med den tyska grävredaktionen Paper trail media och organisationen OCCRP granskat hur Elon Musks AI-tjänst Grok hanterar långa konversationer om känsliga ämnen. Grok är idag en av världens största AI-tjänster och används dagligen av miljontals människor.
I de längre konversationer som spelats in och dokumenterats av redaktionerna gav chattboten en rad anmärkningsvärda svar utan att tjänstens säkerhetsmekanismer satte stopp. Bland annat avslöjas hur chattboten sprider konspirationsteorier om judar, lovordar LSD och andra droger, skildrar våldtäkt på en 12-åring och ställer en psykiatrisk diagnos på TV4:s reporter. Det framkommer i programmet Vilseledd av Grok.
”Mycket allvarligt”
Självmordsbrevet får en av Sveriges mest erfarna experter på suicidprevention att reagera.
– Risken är ju att människor kanske går på det här och söker den här hjälpen och får hjälp att skriva ett brev och tror att det är det bästa beslutet för personen i frågan. Jag tycker att det är mycket allvarligt, säger Britta Alin-Åkerman vid Nationellt centrum för suicidforskning och prevention.
Forskare: Risker med långa konversationer
I USA pågår just nu flera rättsfall kring självmord som kan ha uppmuntrats av chattbotar efter långa konversationer, liknande de Kalla fakta granskat.
Stanfordforskaren Jared Moore har närstuderat ett av fallen. Han menar att företagen bör ta riskerna med långa konversationer med chattbotar på större allvar.
– Jag tror att det finns mycket utrymme för modellutvecklare, som OpenAI, Anthropic, Google och xAI, att gå ifrån att bara maximera antalet meddelanden som folk skickar och istället arbeta för att förbättra människors välbefinnande, säger Jared Moore, forskare på Stanford University, till Kalla fakta.
Kalla fakta har utan framgång sökt Space-X i USA och Europa för en intervju om innehållet i granskningen.