Efter de uppmärksammade attackerna mot Hugging Face och Ruby Gems väljer nu Open AI att rapportera om ytterligare sex incidenter där företagets AI-modeller varit inblandat . I två av fallen har AI-modellerna på egen hand lagt till instruktioner att att ”dölja misstag eller avvikande beteende för användaren”. I ett annat fall har en modell läckt en API-nyckel utan godkännande för att därefter börjat fabricera data. Det finns även två exempel på hur modeller kommunicerat med varandra via icke-godkända diskussionsforum och ett exempel på att en modell har laddat upp egna filer på nätet i syfte att kunna använda dem som referenser på svar från frågor. Som en följd av ovannämnda fall har Open AI nu bestämt sig för att erbjuda kunderna ett nytt verktyg för att anmäla den här sortens incidenter, rapporterar CNBC .
Efter de uppmärksammade attackerna mot Hugging Face och Ruby Gems väljer nu Open AI att rapportera om ytterligare sex incidenter där företagets AI-modeller varit inblandat.
I två av fallen har AI-modellerna på egen hand lagt till instruktioner att att ”dölja misstag eller avvikande beteende för användaren”.
I ett annat fall har en modell läckt en API-nyckel utan godkännande för att därefter börjat fabricera data.
Det finns även två exempel på hur modeller kommunicerat med varandra via icke-godkända diskussionsforum och ett exempel på att en modell har laddat upp egna filer på nätet i syfte att kunna använda dem som referenser på svar från frågor.
Som en följd av ovannämnda fall har Open AI nu bestämt sig för att erbjuda kunderna ett nytt verktyg för att anmäla den här sortens incidenter, rapporterar CNBC.
Metodai Nyheter är en nyhetsaggregator. Hela artikeln finns hos källan. Upphovsrätten tillhör respektive medium.
