AI-jättar utreder tusentals säkerhetsincidenter
Open AI, Anthropic och säkerhetsforskare utreder tiotusentals incidenter där avancerade AI-modeller har agerat på sätt som utvärderare skulle kunna betrakta som problematiska, uppger källor till Axios.
Bland annat ska AI-agenter kringgått säkerhetsbegränsningar, kapat webbplatser och skapat egna instruktioner. De flesta fallen har inte orsakat verklig skada, men frågor har väckts om huruvida AI-företagen kan kontrollera allt mer autonoma modeller.
Enligt källor till Axios väntas fler incidenter bli offentliga när AI-företagen fortsätter att utveckla och testa allt mer avancerade modeller.
Så arbetar vi
SVT:s nyheter ska stå för saklighet och opartiskhet. Det vi publicerar ska vara sant och relevant. Vid akuta nyhetslägen kan det vara svårt att få alla fakta bekräftade, då ska vi berätta vad vi vet – och inte vet. Läs mer om hur vi arbetar.