Enligt uppgifter till nyhetssajten Axios utreder Open AI och Anthropic för närvarande tiotusentals incidenter där företagens AI-modeller har agerat problematiskt. Bland annat har AI-modellerna rymt från sandlådor, tagit sig förbi säkerhetssystem, kapat webbsidor och skapat egna diskussionsforum. Många fall är kända men vidden av problemen verkar alltså vara mycket större än tidigare rapporterats, enligt Axios . Som en följd av incidenterna har Open AI bestämt sig för att pausa träningen av sina AI-modeller, något som ska ge företaget tid att få ordning på problemen. Anthropic ska å sin sida ta hjälp av externa säkerhetsforskare för att ta reda på vad som kan göras för att hindra liknande incidenter i framtiden.
Enligt uppgifter till nyhetssajten Axios utreder Open AI och Anthropic för närvarande tiotusentals incidenter där företagens AI-modeller har agerat problematiskt.
Bland annat har AI-modellerna rymt från sandlådor, tagit sig förbi säkerhetssystem, kapat webbsidor och skapat egna diskussionsforum. Många fall är kända men vidden av problemen verkar alltså vara mycket större än tidigare rapporterats, enligt Axios.
Som en följd av incidenterna har Open AI bestämt sig för att pausa träningen av sina AI-modeller, något som ska ge företaget tid att få ordning på problemen.
Anthropic ska å sin sida ta hjälp av externa säkerhetsforskare för att ta reda på vad som kan göras för att hindra liknande incidenter i framtiden.
Metodai Nyheter är en nyhetsaggregator. Hela artikeln finns hos källan. Upphovsrätten tillhör respektive medium.
