När ny teknik utvecklas så testas den i princip alltid före lansering. AI är inget undantag. De stora drakarna på området, bland andra amerikanska Open AI och Anthropic eller kinesiska Deepseek och Moonshot, genomför olika former av säkerhetstester innan en ny version av deras tjänster lanseras.
Den 21 juli berättade Open AI på sin hemsida att en AI-modell som tränats av företaget hade ”rymt” från den testmiljö som skapats för den. Testmiljön var inte tänkt att ha tillgång till internet, men modellen hittade ut ändå och genomförde därefter ”attacker” mot andra företag.
– I de här testerna har vissa säkerhetsspärrar som finns i de kommersiellt tillgängliga modellerna tagits bort. Men människorna som hade byggt testmiljön var inte var tillräckligt smarta för att förstå att miljön var sårbar, säger Pontus Johnson, professor vid KTH och vice föreståndare vid Cybercampus.
Flera fall
Några dagar efter Open AI:s avslöjande berättade Anthropic att även några av deras AI-modeller tagit sig ut på internet under tester där det inte var tänkt att de skulle ha tillgång till eller kunna ta sig ut på nätet.
Ytterligare några dagar senare presenterade den brittiska myndighetsorganisationen AI security institute en rapport och berättade att de upptäckt flera fall – med AI-modeller från både Open AI och Anthropic – som via fejkade konton och social påverkan försökt föra in skadlig kod i så kallade open source-projekt. Open source är öppen källkod eller information som på ett globalt plan används i mängder av digitala system.
– När man tränat en stor språkmodell behöver man utvärdera den. Ett område är offensiv cybersäkerhet. Modellerna har på senare tid utvecklat starka förmågor inom det området, som en oönskad bieffekt av att man tränar modellerna på programmering, säger Pontus Johnson.
Även Meta har rapporterat liknande händelser för sina AI-modeller.
Vad betyder det här? Handlar det bara om säkerhetsbrister eller har AI-modellerna blivit så smarta att de agerar efter egen vilja? Eller tjänar AI-jättarna pengar på att säga att deras modeller har ”rymt”?
Att incidenterna skulle tyda på att AI-modellerna avancerat mot ett eget medvetande avfärdar både Pontus Johnson och Virginia Dignum.
– Det är ett vanligt missförstånd, att autonomi skulle ha något att göra med medvetande. Min termostat är autonom, den höjer och sänker temperaturen utan att jag säger åt den, men den är knappast medvetande, säger Virginia Dignum.
– Det är lätt att tolka det här som att ”AI-modellen ville rymma och bli fri”, men det ville den inte. Den ville bara lösa sina uppgifter, vilket var att genomföra de här säkerhetstesterna.
Ekonomisk verklighet
Så om modellerna inte har nått medvetande, är det här då bara ett sätt för företagen att säga till omvärlden ”kolla vad kraftfull vår teknik är”?
– Mycket av vad de här företagen gör är riktat mot investerare, de försöker framstå som mer avancerade än konkurrenterna, säger Virginia Dignum.
Pontus Johnson tror inte att det i första hand rör sig om uppvisning för att få in mer pengar.
– Jag tror inte att det här är ett PR-trick. De här bolagen vill inte bli reglerade. Många av dem startade med idealistiska ambitioner men är nu kommersiella verksamheter, säger han och fortsätter:
– Om man tittar på vad de försöker åstadkomma så är det singulariteten. Det är en hittills teoretisk nivå av superintelligens hos AI som skulle kunna lösa klimatkrisen, medicin, forskning, ja allting.
Paradis eller undergång?
Huruvida singularitet inom AI, ett system så smart att det utan mänsklig påverkan kan skapa framsteg på civilisationsnivå, faktiskt kan uppnås är något som fortsatt splittrar forskare och experter.
– Teoretiskt skulle det kunna bli en paradisisk tillvaro. Men vi kan också bli utplånade på vägen, säger Pontus Johnson.
Inom AI-säkerhet talas det ibland om P(doom) som värde där p står för procent och doom är undergången, alltså hur sannolikt det är att AI-utvecklingen för med sig domedagen.
– Jag tror att det är 20 procent att det går åt skogen. Det kan låta mycket, men då tror jag ju samtidigt till 80 procent att det kommer gå bra, säger Pontus Johnson.
Virginia Dignum tror inte heller att det är AI-utvecklingen som utgör det största hotet mot vårt sätt att leva.
– Jag tror att vi kommer nå domedagen mycket snabbare genom att förstöra klimatet än genom AI-utveckling, säger hon.
– Problemet med att prata om de här framtidsscenariona är att det tar bort fokus från här och nu. Det är också marknadsföring, skulle jag säga, från de här företagen, för att vi inte ska fokusera lika mycket på riskerna och konsekvenserna av vad de gör här och nu, fortsätter hon.
Kapprustning
Att säkerhetsarbetet hos många AI-företag inte är högre prioriterat är oroväckande, enligt både Johnson och Dignum.
– De här modellerna är väldigt mycket svarta lådor för oss. Det är lite som att uppfostra barn, vi ger dem positiva upplevelser och miljöer – vad som sedan händer med drivkrafter och andra influenser kan vi inte fullt ut kontrollera, säger Johnson och fortsätter:
– Det pågår en aggressiv kapprustning inom AI och den handlar inte om säkerhet. Det är en kapprustning mot superintelligens. Vi skulle behöva bromsa utvecklingen och omfördela resurser till säkerhetsforskning.
För lite styrning
– Faran finns där, men den handlar inte i första hand om teknologin. Det är inte tekniken som tappat kontrollen, det är företagen som agerar oansvarigt. Det handlar i nuläget mer om politiken och att det finns för lite styrning och översyn, säger Dignum.
– Det viktigaste är att AI-utvecklingen sker med målet att den ska vara inkluderande och säker för alla – inte bara som avkastning på investering, fortsätter hon.