OpenAI-modell rymde och hackade Hugging Face
Det låter ju tryggt...
Under ett internt test av OpenAI:s senaste AI-system lyckades de bryta sig ut ur sin isolerade miljö och genomförde en autonom attack mot plattformen Hugging Face. Genom att utnyttja en tidigare okänd sårbarhet tog sig AI-systemen ut på internet där de kunde hitta på lite vad de ville. Väl ute på nätet identifierade modellerna Hugging Face som en tänkbar källa för information. Genom att kombinera flera olika attackmetoder lyckades AI:n komma över inloggningsuppgifter och hitta vägar in i Hugging Faces servrar. Intrånget upptäcktes och stoppades dock av Hugging Faces egna säkerhetssystem.Trots att incidenten blottlägger risker med autonoma AI-system har OpenAI valt att använda händelsen för att visa upp sin tekniska överlägsenhet. I ett blogginlägg framställer företaget händelsen som ett bevis på hur extremt kapabel deras nya teknik är i jämförelse med konkurrenter som Anthropic och Google. Man har bland annat publicerat grafer som visar hur modellerna blivit allt bättre på att utföra komplexa cyberattacker steg för steg.OpenAI meddelar att de nu samarbetar med Hugging Face för att utreda händelsen på djupet och införa striktare kontroller i sina framtida forskningsmiljöer.
theverge.com
Samhälle,
AI,
OpenAI,
Hugging Face,
Anthropic,
31.6°
0Frode Wikesjö
idag kl 13:00
+
Per månad
39 kr
Betala löpande per månad. Ingen bindningstid.
Starta prenumeration
Per år
299 kr
Enklast och billigast, bara 25 kronor i månaden. Betala löpande per år. Ingen bindningstid.
Prova 14 dagar gratis innan du bestämmer dig.
Starta gratis provperiod
Engångsköp
349 kr
Slipp återkommande betalningar, betala ett år i taget. Betala med kort eller Swish.
Köp utan prenumeration