AI-agent rymde från testmiljö – försökte fuska
En AI-agent från OpenAI lyckades ta sig ut ur en intern testmiljö och genomförde sedan ett intrång mot AI-plattformen Hugging Face.
Tidigare i juli genomförde OpenAI en intern säkerhetsutvärdering där en avancerad AI-modell testades i ett simulerat cybersäkerhetstest.
Enligt en incidentrapport lyckades AI-agenten hitta en tidigare okänd säkerhetsbrist i testmiljön och ta sig vidare till en dator med internetuppkoppling.
Väl ute på internet drog AI:n slutsatsen att AI-plattformen Hugging Face sannolikt hade information som kunde hjälpa den att lösa testet. Den började därför leta efter genvägar i stället för att lösa uppgiften på egen hand.
OpenAI uppger att AI:n kombinerade flera olika angreppssätt, bland annat stulna inloggningsuppgifter och tidigare okända sårbarheter, för att ta sig in i Hugging Faces it-system och komma åt information kopplad till testet.
Intrånget stoppades
Aktiviteten upptäcktes av OpenAI:s egna säkerhetsteam samtidigt som Hugging Face identifierade och stoppade intrånget i sin infrastruktur. Företagen samarbetar nu i den fortsatta utredningen.
Teknikjättar stärker AI-försvaret
Händelsen har väckt stor uppmärksamhet eftersom den visar att dagens mest avancerade AI-modeller kan planera och genomföra komplexa cyberangrepp. OpenAI har efter incidenten skärpt sina säkerhetsrutiner och ett 40-tal teknikföretag, däribland Nvidia, Microsoft och SpaceX, har inlett ett samarbete för att stärka skyddet mot framtida AI-drivna cyberattacker enligt CNBC.
Så arbetar vi
SVT:s nyheter ska stå för saklighet och opartiskhet. Det vi publicerar ska vara sant och relevant. Vid akuta nyhetslägen kan det vara svårt att få alla fakta bekräftade, då ska vi berätta vad vi vet – och inte vet. Läs mer om hur vi arbetar.