En ransomware-angripare använde AI-agenter för att ta sig igenom ett företagsnätverk på mindre än 10 timmar, enligt forskare vid Palo Alto Networks, som uppskattade att ett liknande arbete skulle ha tagit mänskliga operatörer cirka två veckor.
Incidenten involverade mer än 50 tekniker som kartlagts mot MITRE ATT&CK-ramverket, enligt företagets hotforskningsteam Unit 42. Teknikerna i sig var till stor del välkända. Den märkbara skillnaden, enligt Unit 42, var användningen av AI-agenter som kunde tolka resultaten av sina handlingar och anpassa efterföljande steg under intrånget.
Unit 42 uppger att man under utredningen observerade flera indikatorer som stämde överens med användning av AI. Hotaktören uppgav också för forskarna under förhandlingarna att avancerade AI-modeller och attackspecifika agentbaserade ramverk hade använts.
Angriparen tog sig in via en API-ändpunkt som var tillgänglig för allmänheten innan en automatiserad rekognosceringsagent kartlade interna mikrotjänster, uppgav Unit 42. Andra agenter genomsökte källkodsförvar efter exponerade inloggningsuppgifter, vilket hjälpte angriparen att få tillgång till ett system för hantering av hemlig information och skaffa sig administratörsbehörighet.
”Angriparen kapade en företagsapplikation via anpassade arbetsflöden för att stjäla åtkomstnycklar till molnet”, uppger Unit 42. ”De försökte placera bakdörrar i Terraform-konfigurationer.” Forskarna uppger att befintliga skyddsåtgärder på filialnivå förhindrade de försökta ändringarna.
Stulna molnautentiseringsuppgifter användes senare för att få åtkomst till offrets AI-tjänster, vilket i praktiken förvandlade dess egna datorresurser till infrastruktur som kunde stödja ytterligare angriparaktivitet, enligt Unit 42.
Händelsen bevisar inte att attacken var helt autonom. ”Bevisen pekar på ett mänskligt styrt intrång där AI koordinerade delegerade taktiska uppgifter”, säger Sanchit Vir Gogia, chefsanalytiker på Greyhound Research.
Snabbare attackcykler försvårar begränsningen
Den hastighet som framkommer i Unit 42:s utredning sätter press på säkerhetsteamen att minska tidsintervallet mellan att skadlig aktivitet identifieras och att åtgärder för inneslutning vidtas, säger Jonathan Ong, senioranalytiker för hanterade säkerhetstjänster hos Omdia.
– Företagen behöver inte nödvändigtvis en ny hotmodell, men de måste arbeta enligt en ny tidsplan, säger Sakshi Grover, senior forskningschef för IDC Asia Pacific Cybersecurity Services.
Snabbare attacker ökar också vikten av att kontrollera icke-mänskliga identiteter. Ciso:er bör minska sitt beroende av långvariga inloggningsuppgifter och gå över till kortvariga identiteter med snävt omfattning för arbetsbelastningar och tjänster, säger Grover.
Ciso:er kan också behöva undersöka hur stor befogenhet deras säkerhetsleverantörer har att agera när skadlig aktivitet upptäcks. En leverantör kan till exempel ha befogenhet att inaktivera ett komprometterat konto och ogiltigförklara dess aktiva inloggningsuppgifter innan angriparen hinner fortsätta använda dem.
Handlingsplaner för incidenthantering bör också anpassas till organisationen och göra det möjligt för leverantörer att automatisera begränsningsåtgärder utan att kräva internt godkännande där så är möjligt, enligt Ong.
Det innebär inte att man överlämnar obegränsad kontroll till en tredje part. Ong säger att organisationer bör tydligt fastställa ansvarsfördelningen i förväg och regelbundet testa sina insatsrutiner genom simuleringar.
Detektering kräver ett bredare sammanhang
Attacken illustrerar också svårigheten att upptäcka skadlig aktivitet som sträcker sig över system som kanske övervakas separat. Ong menar att detekteringstekniken bör anpassas till organisationens normala aktivitet så att ovanligt beteende kan identifieras mot den baslinjen.
En misstänkt åtgärd i en miljö kanske inte räcker för att generera en meningsfull varning. Dess betydelse kan bli tydligare när den kombineras med aktivitet på andra ställen.
För ciso:er ökar detta vikten av att korrelera telemetri mellan säkerhetssystem, snarare än att utvärdera varningar huvudsakligen inom separata teknikdomäner.
Befogenheter kan sträcka sig över flera system
Om man betraktar systemen isolerat kan man missa risker som skapas av kopplingarna mellan dem.
– Varje plattform kan ha haft sina egna kontroller, men relationerna mellan dem skapade en väg som kunde utnyttjas, säger Grover.
Gogia beskriver detta problem som ”transitiv behörighet”, där åtkomst i ett system kan möjliggöra en mer privilegierad åtgärd någon annanstans.
Ett repository-konto kan till exempel i sig inte ha behörigheter som molnadministratör, men kan ändra ett arbetsflöde som förutsätter en mer omfattande roll i molnet. Vid granskningar av behörigheter bör man därför beakta vad en identitet kan få ett annat system att göra, snarare än endast vad den har direkt åtkomst till, sade han.
Gogia pekar också på den gren-skydd som blockerade det försökta Terraform-ändringsförsöket som ett exempel på värdet av förebyggande kontroller när attackcyklerna accelererar.
– När angriparnas beslutscykler förkortas får förebyggande åtgärder ett relativt värde just därför att de aldrig behöver hinna före någon, säger han.
Den centrala frågan för säkerhetsansvariga är om angripare nu kan agera snabbare än vad befintliga kontroller klarar av att begränsa dem. Ett praktiskt test är att jämföra hur snabbt en realistisk attackväg kan nå ett kritiskt system med hur lång tid organisationen faktiskt tar på sig att upptäcka och begränsa den.
Grover menar att agentstödda red-team-övningar kan användas för att mäta den klyftan. Om en attackväg kan fullföljas innan begränsningsåtgärderna träder i kraft är svagheten strukturell snarare än hypotetisk.
– Den främsta risken är inte att AI plötsligt skapar helt nya attacktekniker, säger hon.
– Den minskar den tid, expertis och de kostnader som krävs för att utföra befintliga tekniker samtidigt och i stor skala.
För ledningen handlar frågan mindre om huruvida AI-baserad ransomware är ett framväxande hot än om huruvida befintliga kontrollåtgärder kan stoppa en trovärdig attackväg innan den når ett kritiskt affärssystem.