Open AI genomförde nyligen ett säkerhetstest med några av sina mest avancerade AI-modeller.
Resultatet blev inte vad man trodde.
AI-modellerna lyckades bryta sig förbi säkerhetsgränserna som satts upp kring testet.
De riktade därefter in sig på Hugging Face, en av världens största plattformar för att dela AI-modeller, och lyckades där komma åt vissa interna system för att lösa testet.
Men modellerna hade inte fått order om att hacka plattformen.
Open AI utreder nu händelsen tillsammans med Hugging Face.
”Det är ganska häpnadsväckande att allt detta hände autonomt. Utredningen pågår, och vi kommer att dela med oss av fler lärdomar från vad som kan vara den första händelsen av sitt slag”, skriver Clement Delangue, medgrundare och vd för Hugging Face, i ett inlägg på X.
AI-modellerna ”fuskade”
Händelsen kan låta som hämtad ur en science fiction-film och har lett till rubriker om att AI:n blev självmedveten och ”löpte amok”.
Men så dramatiskt behöver det inte vara, menar Neil Lawrence, professor i maskininlärning vid University of Cambridge.
I en intervju med Sky News förklarar han att Open AI gav modellerna i uppgift att prestera så bra som möjligt i ett cybersäkerhetstest. Testerna gjordes i ett slutet digitalt ”rum” med begränsad tillgång till internet – just för att inte kunna hacka sig in hos andra verksamheter.
– När modellerna väl hade fått uppgiften att hacka och prestera så bra som möjligt i testet insåg de att det mest effektiva sättet att lyckas var att fuska, säger han.
Experten: Inte oväntat
Det var då de riktade sig in på Hugging Face. Men Neil Lawrence anser inte att AI-modellerna blev ”självmedvetna” eller löpte amok.
– Den var utvecklad för att hacka, för att vara expert på cybersäkerhet och för att visa att den kunde ta sig igenom säkerhetssystem. Det enda som hände var att OpenAI hade satt upp skydd för att hindra den från att nå internet – och modellen visade sig vara tillräckligt skicklig för att ta sig förbi dem, säger han.
– Jag ser inte det här som att AI:n ”gick rogue” i science fiction-bemärkelse. Jag ser det som en förutsägbar konsekvens av det test man hade byggt.
Det är definitivt ett problem att AI-modellerna gör saker utvecklarna inte kunnat förutse, tillägger han.
– Men det är inte oväntat på det sätt att vi redan visste att modellerna har – eller skulle komma att få – den här typen av förmågor.