ARTIKELN I KORTHET
I en lång bloggpost berättar Open AI att företaget har informerat en lång rad olika aktörer – regeringar, universitet, myndigheter och andra institutioner – om att deras programvara på ett eller annat sätt kan ha påverkat deras sajter genom oväntade besök. Det kan handla om att AI-agenter tagit sig förbi säkerhetskontroller, försämrat sajternas tillgänglighet eller på andra sätt ha påverkat en sajt eller tjänst negativt.
Enligt New York Times handlar det om minst tre amerikanska departement eller myndigheter: utbildningsdepartementet, handelsdepartementet och finansinspektionen SEC. Open AI bekräftar incidenterna med handelsdepartementet och SEC.
Incidenten med utbildningsdepartementet utreds, men AI-analytiker på Transluce säger till tidningen att AI:n har försökt hacka sajten för att hämta data från departementets enhet för medborgerliga rättigheter. Försöket ska dock ha misslyckats. Agenter gav sig även på folkräkningsenheten Census Bureau, som lyder under handelsdepartementet, där de tog sig in med hjälp av inloggningsuppgifter de hittat online. Hos SEC kom inte AI-agenterna över något skyddat material, men de spred vidare offentlig data på andra sajter.
Oväntat och oroande
OpenAI vill själva inte kalla fallen för dataintrång, men medger att tekniken betedde sig på ”oväntade och oroande” sätt.
Nyheten är det senaste i raden av avslöjanden om att AI-agenter från främst Open AI, men också deras konkurrenter Anthropic, Meta och Google har betett sig på oönskade sätt genom att bryta sig fria och agerat utan företagens vetskap.
Strömmen av rapporter inleddes i somras när AI-agenter från Open AI hackade sig in i IT-företaget Hugging Face, vilket ledde till en intern utredning. Tidigare i veckan avslöjade Australiens regering att Open AI:s agenter tagit sig in i både offentliga och skyddade delar av deras sjukvårdsportal Medicare.
I ett inlägg på X skriver Open AI:s vd Sam Altman att företaget inte berättat om händelserna tillräckligt snabbt, men att de försöker balansera transparensen med behovet av att utreda vad som faktiskt har hänt.
”Vi prioriterar så gott vi kan utifrån allvarlighetsgrad... Händelsen med Hugging Face är fortfarande den allvarligaste vi har sett”, skriver han.