Företag som i snabb takt har infört AI-verktyg och -tjänster i sina arbetsflöden är ofta inte förberedda på de interna och externa hot som kan blotta svagheter i deras system, enligt analytiker.
– Jag tror inte att de är redo, säger Pete Shoard, forskningschef för cybersäkerhet på Gartner.
– Jag tror att det underliggande problemet här är att vi har gjort samma sak så länge, och det har inte fungerat, att det är dags för en förändring.
Externa hot kan uppstå när känslig information läcker ut till stora språkmodeller utan att användarna inser problemet. AI-verktyg kan också råka ladda upp känsliga filer till offentliga arkiv som Github.
– Den största risken just nu är att hårdkodade hemligheter laddas upp via felkodade applikationer till Github och därmed skapar en ingångsväg, säger Shoard.
Därför måste företagen ligga steget före genom att upptäcka interna och externa hot innan de blir verklighet. Det har lett till ett förnyat intresse för verktyg för hantering av attackytor, som utvärderar interna och externa system för att förutsäga och förebygga möjliga attacker.
– Organisationer går från en reaktiv hållning, att upptäcka ett hot efter att det har inträffat, till en mer proaktiv. Det vill säga: ”jag ska sätta mig ner och simulera det scenario som ett hot skulle innebära, och sedan ska jag åtgärda det problemet”, säger Shoard.
Verktyg för hantering av externa attackytor kan till exempel skanna webbplatser som är tillgängliga för allmänheten, filarkiv och flöden på sociala medier för att leta efter ett företags digitala tillgångar, vilket kan inkludera förfalskade webbplatser, utsatta servrar eller filer som innehåller känslig information.
När organisationer väl har fått insyn i de exponerade hoten kan de prioritera dem och åtgärda dem genom att samordna en lösning.
– AI förstärker alla dessa steg, vanligtvis genom hur leverantörer utvärderar signaler, men också genom hur kunderna interagerar med data, säger Erik Nost, senioranalytiker på Forrester.
Säkerhetsproblem kan uppstå när företag skyndar sig att integrera AI i befintliga it-system för att lösa problem, men inte planerar för säkerhet eller styrning. Det är särskilt ett problem för små och medelstora företag, eftersom hotdetektering och respons oftare är ett huvudfokus för stora företag, säger Jack Gold, chefsanalytiker på J. Gold Associates.
– Det finns många dolda webbplatser där ute, säger Gold.
– De flesta företag fokuserar mer på att sätta upp barriärer mot säkerhetsrisker än att försöka ta reda på vad som finns där ute om dem.
Små och medelstora företag har ofta betydligt mindre omfattande resurser, framför allt eftersom de saknar interna kontroller och inte vill, eller inte har råd, att betala stora företag för deras tjänster.
– Det finns tjänster som sköter detta åt stora företag, däribland de stora säkerhetsföretagen som Mandiant, CrowdStrike med flera, som en del av deras tjänsteutbud – vilket de naturligtvis gör inom ramen för ett avtalstjänst som sannolikt inte är billig, säger Gold.
Företagen har också sett en ökning av den tekniska skulden i takt med att fler AI-agenter genereras och tas i bruk. Spridningen av agenter – av vilka många kanske inte fungerar eller öppnar upp nya angreppsyta – skapar ytterligare säkerhetsproblem.
I takt med att hoten ökar erbjuder nu hundratals leverantörer produkter som omfattar tjänster såsom sårbarhetsskanning, kartläggning av attackvägar, hotinformation och skydd på olika nivåer.
Bland de mest framstående leverantörerna finns företag som Palo Alto Networks och Crowdstrike, men även mindre företag har sina specialområden: Tenable och Rapid7 är starka inom nätverksövervakning, medan Wiz – som förvärvades av Google i mars – fokuserar på molnövervakning.
Vissa produkter vänder till och med angriparens egen strategi mot dem.
– Det finns något som kallas Thinkst Canary, vilket är en honeypot-teknik, säger Shoard.
– Honeypots är, som namnet antyder, utformade för att locka angriparen för att förstå lite mer om deras tekniker.
Även om detektering till stor del kan automatiseras kräver åtgärdandet en annan verktygslåda.
– Man åtgärdar inte dessa problem automatiskt. Man överväger dem mycket noggrant innan man lägger in en patch, säger Shoard.