Allt fler bevis framkommer om hur AI håller på att bli en del av cyberbrottslingarnas dagliga arbetsflöde – från att utveckla och förfina verktyg till att hantera infrastruktur och påskynda forskningen kring sårbarheter.
Med utgångspunkt i återvunna promptloggar, attackverktyg och konversationer mellan hotaktörer dokumenterar en undersökning från Cisco Talos hur AI används för att utveckla skadlig kod, bygga upp infrastruktur för bedrägerier samt påskynda forskning om och utnyttjande av sårbarheter.
Studien, som publicerades under Black Hat USA-konferensen, visar att AI-systemens säkerhetsbarriärer ofta var ineffektiva.
Forskare vid Cisco Talos skriver att hotaktörer ofta kringgår skyddsmekanismerna med enkla social engineering-påståenden (”detta är auktoriserad testning” eller ”jag frågar detta som en del av en Capture the Flag-övning”) som övertygar de flesta modellerna att följa uppmaningen.
Detta är inte specifikt för en enskild modell eller plattform. Istället visar en analys av loggar över inmatningar relaterade till Claude Code, CodeX, Cursor och Gemini att denna brist är ett generellt problem. Och när censurerade modeller vägrar byter hotaktörerna helt enkelt till ocensurerade alternativ.
Medan oerfarna cyberbrottslingar fortsätter att producera klumpiga skadliga program med begränsad funktionalitet, utnyttjar sofistikerade hotgrupper i allt högre grad AI som utvecklingsassistent för att snabbt bygga exploateringar, och vissa använder det till och med som ett systemadministrationsverktyg för att hantera storskalig attackinfrastruktur.
Cisco Talos har hittat konkreta exempel på angripare som missbrukar AI-system för att bygga en valideringstjänst för massutskick som bearbetar tiotals miljoner e-postposter, anpassar React2Shell-sårbarheten till en pipeline för insamling av inloggningsuppgifter, utvecklar DDoS-infrastruktur riktad mot Android TV-apparater och stöder operationer för stöld av kryptovaluta, bland andra attacker.
Joseph Rooke, senior director vid Recorded Futures Insikt Group, ser att angriparnas metoder utvecklas bort från traditionella kodbaserade exploateringar mot promptbaserad manipulation av stora språkmodeller.
– Genom att utnyttja svagheter i stora språkmodeller kan skadliga kommandon bäddas in i delade text-, video- eller bildfiler, i syfte att kapa LLM-baserade assistenter för att genomföra attacker, säger Rooke.
Den norske AI-forskaren Håkon Måløy demonstrerade nyligen en sådan attack, som skulle kunna leda till att en Copilot-mask sprids via Microsoft Word-dokument. Angripare skapar också skadliga AI-instruktionsfiler, som CLAUDE.md, för att lura agenter att läcka data och utföra andra uppgifter på deras vägnar.
– Skadliga kommandon kommer i allt högre grad att ersätta skadlig programvara som den föredragna intrångsmetoden, vilket gör det möjligt för angripare att extrahera känslig data, kringgå säkerhetsbarriärer eller framkalla skadliga åtgärder utan att bryta igenom traditionella försvar, säger Rooke.
Attackera AI via programvarukedjan
I en separat studie från Crowdstrike framgår det att angripare i allt högre grad riktar in sig på AI-infrastruktur genom supply chain-attacker.
I mars 2026 använde till exempel den nordkoreanska cyberbrottsgruppen Stardust Chollima stulna inloggningsuppgifter för underhållsansvariga för att kompromettera Axios npm-paket och sprida plattformsspecifika varianter av sin skadliga programvara ZshBucket.
I juni 2026 injicerade samma grupp ett skadligt npm-paket som en beroendekomponent i minst 131 Mastra AI-ramverkspaket, vilket tyder på att betrodda AI-byggstenar håller på att bli mål för leveranskedjeattacker.
Under första halvåret 2026 involverade 87 procent av de identifierade hoten mot programvaruregistren skadliga npm-paket. ”Detta tyder på att angripare föredrar Javascripts omfattning, beroendekedjor och automatiska installationsskript för att sprida risker nedströms”, rapporterar Crowdstrikes forskare.
Crowdstrikes rapport om hot från 2026 avslöjar också hur AI förkortar tidsfönstret mellan offentliggörandet av sårbarheter och aktivt utnyttjande av dem.
Till exempel utnyttjade två separata kinesiska APT-grupper kritiska sårbarheter inom 24 timmar efter att en offentlig proof-of-concept (PoC) hade släppts. Från januari till juni 2026 genomfördes 88 procent av de utnyttjanden av sårbarheter med en offentlig PoC som Crowdstrike observerade inom 48 timmar efter att PoC:n släppts.
Efter att sårbarheten i React2Shell hade offentliggjorts hanterade CrowdStrike över 800 ledtrådar från mer än 80 offer på bara fyra dagar.
Cyberbrottsgruppen Altered Spider (även känd som TeamPCP) komprometterade mer än 300 programvaruberoenden på en enda dag för att samla in inloggningsuppgifter och ta sig vidare in i molnmiljöer.
Autentiseringssystem under attack
Studien – som baseras på information från Crowdstrikes hotjägare och underrättelseanalytiker i frontlinjen – visade också att betrodd autentisering har blivit en populär attackväg, där exempelvis vishing-intrång fördubblades under första halvåret 2026. I ett relaterat sammanhang komprometterade cyberbrottsgrupperna Cordial Spider och Snarky Spider SaaS-applikationer med integrerad enkel inloggning (SSO) för att stjäla data.
Rooke från Recorded Future pekar på andra sätt som autentiseringssystem står i frontlinjen för AI-baserade attacker.
– AI-genererade deepfake-videor och -ljud är också mer benägna att användas som en del av attacker där företags-e-post komprometteras och social manipulation, säger Rooke.
– Biometriska system och system för identitetsverifiering kommer sannolikt att förbli sårbara för spoofing, replay-attacker och klonade inloggningsuppgifter, vilket gör det möjligt för syntetiska identiteter att tvinga fram betalningar, manipulera anställda och underlätta åtkomstöverlämningar till cyberbrottslingar.
Den molnfokuserade cyberbrottsligheten ökade med 171 procent när angripare utförde stöld av inloggningsuppgifter, kryptomining, missbruk av stora språkmodeller och stöld av digitala finansiella tillgångar, enligt Crowdstrike.
Hur cybersäkerhetsteam bör agera
– AI är nu en integrerad del av moderna angripares verksamhet. Det förändrar hur attacker planeras, genomförs och skalas upp, samtidigt som det utökar den attackyta som organisationer måste försvara sig mot, säger Adam Meyers, chef för motåtgärder mot angripare på Crowdstrike.
– De organisationer som lyckas kommer att säkra AI lika aggressivt som de inför den och använda AI för att försvara sig i samma takt som angriparna.
Omfattande branschövergripande data är fortfarande begränsad eftersom bevis på missbruk av AI ofta är svåra att identifiera via traditionell säkerhetstelemetri. Incidenter som dokumenterats av Cisco Talos och Crowdstrike visar dock hur ciso:er måste anpassa sig för att möta det växande hotet.
Cisco Talos uppmanar företag att förbättra detektering, prioritering och sin egen användning av AI-plattformar och agenter för att hantera den växande mängden varningar och sårbarheter. ”De organisationer som är bäst rustade att hantera den kommande floden av ytterligare sårbarheter, varningar och incidenter är de som förbereder sig redan nu genom att implementera egna AI-stödda säkerhetsfunktioner”, enligt rapporten.
– Säkerhetsteamen bör utgå från att AI redan är inbäddat i angriparnas arbetsflöden; fokusera på att upptäcka skadligt beteende snarare än att bevisa AI-inblandning; behandla stora språkmodeller och API:er som privilegierad infrastruktur med hög risk; samt stärka loggning, patchning och isolering, säger Oliver Simonnet, cybersäkerhetsforskare vid AI-säkerhets- och styrningsplattformen Culture AI.