FOI kartlägger sociala medier inför valet
”Försöker påverka andra människor utan att de märker” • Tar hjälp av AI
・Uppdaterad:
Det är bara dagar kvar till valdagen och partierna kampanjar för fullt.
I sociala medier pågår andra typer av påverkansoperationer med desinformation, hot och ryss-kopplade försök till påverkan.
På Totalförsvarets Forskningsinstitut, FOI, följer Ola Svenonius och Johannes Lindgren utvecklingen noga.
– Vårt uppdrag är att titta på informationspåverkan och icke-autentiskt beteende på digitala plattformar. Så vi tittar på en liten del av informationsmiljön egentligen. Den är ju mycket, mycket större, säger forskningsledaren Ola Svenonius.
– Vi väljer ut det som har att göra med valet och som finns digitalt, så analyserar vi det för att hitta instanser där man försöker påverka andra människor utan att de märker det, fortsätter han.
Tar hjälp av AI
Med ett egenbyggt AI-verktyg samlar de in och sorterar hundratusentals inlägg från sociala medier om valet. Inläggen kategoriseras sen efter hot och hat mot politiker, rykten om valfusk och så olika berättelser som ryska aktörer ofta sprider om Sverige.
Utifrån det här identifierar de sen det de kallar ”icke-autentiskt beteende”.
– Dels så kan det handla om att man på en väldigt kort tidsperiod publicerar samma typer av inlägg, att man har en profilbild som verkar AI-genererad eller att man publicerar på specifika klockslag på natten på ett sätt som kanske är svårt för en människa att göra och upprätthålla under flera dagar, säger Johannes Lindgren, analytiker på FOI.
Hur särskiljer man, på de här plattformarna, en genuin åsikt från något som skulle kunna vara en del av en större påverkanskampanj?
– Det är jättesvårt. Jag tror att man i grunden, framförallt på plattformar som X, ska förstå att där förekommer det väldigt mycket botaktivitet och falska konton. Jag tror att man ska ha det som en grundinställning att ”det är inte säkert att det alltid är vanliga människor som skriver det här”. Sen i enskilda fall är det svårt, säger Johannes Lindgren.
Kopierar nyhetskällor
Innehållet i inläggen liknar till stor del sådant som förekommit i samband med föregående val. Men det finns en trend som är utmärkande i år – att Sverige utmålas som ett land som genomgår ett folkutbyte.
– Det som vi ser mest är att det här narrativet om att svenska befolkningen håller på att bytas ut och islamiseringen av Sverige, som är betydligt starkare den här gången än det var tidigare, säger Ola Svenonius.
Precis som efter förra riksdagsvalet sammanfattas alltid en större rapport och mycket är sig likt. Men sen dess har AI fått sitt stora genombrott.
Målet för hotaktörerna är att de koordinerade formuleringarna ska misstas för riktiga åsikter och i förlängningen få eget liv och tas över av vanliga människor för att bli en del av den allmänna debatten.
– Det som jag tänker är farligt är de här sakerna som vi har sett från de ryska nätverken. Bland annat när man kopierar nyhetskällor så att det ser ut som att det är DN eller TV4 för den delen, eller när man kan skapa en stor mängd konton som beter sig på ett sätt som liknar människor. Då blir det ju på en annan nivå, och där är det väldigt svårt att värja sig som enskild tror jag, säger Ola Svenonius, forskningsledare på FOI.