I takt med att AI-modellerna blir alltmer avancerade ökar oron för att tekniken utnyttjas av cyberkriminella som vill tillskansa sig information och kanske pengar.
Nu varnar EU:s makrotillsynsorgan, Europeiska systemrisknämnden (ESRB) om sårbarheter i det finansiella systemet, och för att avancerade AI-modeller förändrar cyberhotbilden för EU:s finansiella system.
Och Riksbanken som deltar i ESRB:s styrelse skickar vidare organets varning. I ett pressmeddelande skriver riksbankschef Erik Thedéen:
”AI-utvecklingen innebär stora möjligheter för finansiell sektor men medför också risker.”
På Riksbankens hemsida framgår också att syftet med varningen är att trygga motståndskraften i EU:s finansiella system genom att öka medvetenheten om riskerna och påtala behovet av att motverka dem. AI-modellerna kan nämligen göra cyberattacker snabbare, mer omfattande och mer sofistikerade, enligt ESRB.
Flera varningar
Det har bara gått ett par veckor sedan Kungliga Ingenjörsvetenskapsakademien, IVA tillsammans med Nationellt cybersäkerhetscenter varnade för att effektiva AI-verktyg kan leda till allvarliga dataintrång när cyberkriminella får tillgång till tekniken. Rapportens budskap: Det är bråttom.
”Viktigt att samhället agerar på alla nivåer”, sa KTH-professorn Pontus Johnson, talesperson för rapporten i samband med att den kom ut.
Erik Thedéens budskap till de finansiella marknaderna är snarlikt IVA:s.
Riksbankschefen konstaterar att riskerna inte följer landsgränserna, och i en värld med geopolitiska spänningar blir frågan än mer komplicerad.
”Myndigheter globalt och i Sverige för en nära dialog med finansiella aktörer för att säkerställa att de har kapacitet att hantera de risker som den snabba utvecklingen av nya, mer kapabla, AI-modeller innebär,” säger riksbankschef Erik Thedéen.
SvD har sökt Riksbanken utan framgång.
Påverkar FI:s tillsyn
Även Finansinspektionen deltar i ESRB:s styrelse och myndighetens generaldirektör Johan Almenberg kommenterar varningen i Riksbankens pressmeddelande. Även han påtalar att det är viktigt att AI-relaterade risker och cyberhot uppmärksammas brett på EU-nivå.
”Företagen behöver utgå från att störningar kommer att inträffa och därför bygga operativ motståndskraft. Det är också ett prioriterat område i FI:s tillsyn”, säger han i en kommentar.
Även på Finansinspektionens hemsida finns en skrivelse om cybersäkerhetshot kopplade till avancerade AI-modeller. Men där hänvisar myndigheten inte till ESRB utan till Nationellt cybersäkerhetscenter. FI betonar vikten av att finansiella aktörer följer råden för att skydda sig bättre och listar konkreta åtgärder som Nationellt cybersäkerhetscenter rekommenderar.
Även Säpo har varnat för tekniken. De konstaterar i en skrivelse på sin hemsida att AI-modellerna innebär nya utmaningar i säkerhetsarbetet. Även de anser att det brådskar: ”De nya AI-modellernas förmågor gör att tidsfönstret mellan upptäckten av en sårbarhet och dess faktiska exploatering krymper kraftigt”, står det på sajten.