Säkerhetsforskare vid Tracebit har tagit fram en ny försvarsmetod som utnyttjar AI-modellers känslighet för så kallade promptinjektioner – samma teknik som cyberkriminella länge använt för att lura AI-system. Metoden, som fått namnet “kontextbombning”, går ut på att placera särskilda textsträngar tillsammans med falska lösenord och andra lockbeten i exempelvis AWS-miljöer, rapporterar Ars Technica . När AI-drivna hackningsverktyg stöter på dessa instruktioner uppmanas de att utföra handlingar som strider mot modellernas säkerhetsregler, vilket får dem att avbryta attacken eller vägra fortsätta. I tester med fem ledande språkmodeller, däribland Claude Opus, Gemini, Deepseek och Kimi, minskade antalet attacker som lyckades skaffa administratörsbehörighet från 57 till 5 procent. Fullständiga komprometteringar av systemen sjönk samtidigt från 36 till 1 procent.
Säkerhetsforskare vid Tracebit har tagit fram en ny försvarsmetod som utnyttjar AI-modellers känslighet för så kallade promptinjektioner – samma teknik som cyberkriminella länge använt för att lura AI-system.
Metoden, som fått namnet “kontextbombning”, går ut på att placera särskilda textsträngar tillsammans med falska lösenord och andra lockbeten i exempelvis AWS-miljöer, rapporterar Ars Technica.
När AI-drivna hackningsverktyg stöter på dessa instruktioner uppmanas de att utföra handlingar som strider mot modellernas säkerhetsregler, vilket får dem att avbryta attacken eller vägra fortsätta.
I tester med fem ledande språkmodeller, däribland Claude Opus, Gemini, Deepseek och Kimi, minskade antalet attacker som lyckades skaffa administratörsbehörighet från 57 till 5 procent. Fullständiga komprometteringar av systemen sjönk samtidigt från 36 till 1 procent.
Metodai Nyheter är en nyhetsaggregator. Hela artikeln finns hos källan. Upphovsrätten tillhör respektive medium.
