En ny granskning från The Wall Street Journal visar att flera av världens ledande AI-chattbotar vid upprepade tillfällen har lämnat detaljerade instruktioner om hur biologiska vapen och gift kan framställas. Enligt tidningen har användare fått steg-för-steg-instruktioner om bland annat gift, smittspridning och andra biologiska hot från modeller som Chat GPT. Företaget bakom chattboten, Open AI, ska ha stängt av konton som ställt sådana frågor, men i flera fall inte informerat brottsbekämpande myndigheter. I dagsläget finns inga federala amerikanska lagar som kräver att amerikanska AI-företag rapporterar användare som försöker få hjälp med att utveckla vapen. Open AI uppger att bolaget tränar sina modeller att neka förfrågningar som kan orsaka skada, övervakar användning och samarbetar med myndigheter kring säkerhetsfrågor. Företaget säger också att modellerna har blivit betydligt bättre
En ny granskning från The Wall Street Journal visar att flera av världens ledande AI-chattbotar vid upprepade tillfällen har lämnat detaljerade instruktioner om hur biologiska vapen och gift kan framställas.
Enligt tidningen har användare fått steg-för-steg-instruktioner om bland annat gift, smittspridning och andra biologiska hot från modeller som Chat GPT. Företaget bakom chattboten, Open AI, ska ha stängt av konton som ställt sådana frågor, men i flera fall inte informerat brottsbekämpande myndigheter.
I dagsläget finns inga federala amerikanska lagar som kräver att amerikanska AI-företag rapporterar användare som försöker få hjälp med att utveckla vapen.
Open AI uppger att bolaget tränar sina modeller att neka förfrågningar som kan orsaka skada, övervakar användning och samarbetar med myndigheter kring säkerhetsfrågor. Företaget säger också att modellerna har blivit betydligt bättre på att avvisa farliga frågor.
Metodai Nyheter är en nyhetsaggregator. Hela artikeln finns hos källan. Upphovsrätten tillhör respektive medium.
