Användningen av så kallade ”nudify-appar”, AI-verktyg som skapar nakenbilder av vanliga foton, ökar i Sverige. Nu berättar Linnéa Benson, kurator och facklig representant för Akademikerförbundet SSR i Malmö, att fenomenet nått skolor i Malmö.
– Jag har hört att elever har skapat bilder av två kvinnliga lärare och en en kvinnlig klasskamrat. De som gör detta är pojkar som går på högstadiet, säger hon.
Sedan i december varnar barnrättsorganisationen Ecpat för ett nytt fenomen i Sverige: så kallade ”nudify”-appar som skapar nakenbilder utifrån vanliga foton. Enligt organisationen har många unga som drabbats kontaktat dem för att få hjälp. Problemet finns nu även i Malmö.
Linnéa Benson menar att nakenbilderna inte främst skapas i sexuellt syfte. I stället handlar det om att kränka och skada.
– Jag tänker att oavsett vem det är riktat mot så är det ju en stor kränkning. Jag tror inte att det främst handlar om att man vill se någon naken, utan det handlar om att man vill skada någons självförtroende eller integritet. Jag menar nakenbilder finns det jättemycket på internet, man behöver inte skapa fler. Det handlar om att man ska kunna utöva makt över någon.
Enligt henne är det svårt att veta hur utbrett problemet är i Malmö.
– Jag tror att det finns ett mörkertal, men kanske inte att det är jättestort just nu. Sen så vet man ju inte hur utvecklingen ser ut framåt.
Samtidigt tror Linnéa Benson att de nya lagändringarna kan få ungdomarna att tänka efter.
– På grund av ändringar i skollagen ska alla typer av kränkningar och brott som begås i skolan polisanmälas. Jag tror att eleverna är ganska medvetna om det, i alla fall de äldre eleverna. Så jag tror att det faktiskt är flera som tänker efter en gång innan de gör saker.
Jonas Karlsson är en utredare på barnrättsorganisationen Ecpat. Han ser nu en kraftig ökning av antalet unga som drabbas av AI-genererade nakenbilder.
– I vår stödlinje har vi sett en kraftig ökning. Det första fallet kom för ungefär två år sedan med en AI-bild, och sedan var det flera månader till nästa. Nu har vi flera fall i veckan där man beskriver att man har blivit utsatt för spridning av sådana här bilder.
Han förklarar de rättsliga konsekvenserna av att skapa en AI-manipulerad nakenbild av en annan person.
– De rättsliga konsekvenserna är ju fortfarande relativt oklara skulle jag säga, men som vi tolkar lagen borde det räknas som ett barnpornografibrott om du använder en sådan app för att skapa en bild. Att bara sprida ett barns nakenbild räknas också som barnpornografibrott, berättar han.
– Det finns i alla fall ett fall i Östersund där en sjuttonårig pojke blev dömd för barnpornografibrott och har gjort det här mot en klasskompis. Det är ett allvarligt brott de riskerar att göra sig skyldiga till utan att riktigt förstå. För de är ju väldigt lättillgängliga.
Han berättar också att när det gäller vuxna brottsoffer fungerar lagen annorlunda.
– Ja, då är konsekvenserna mindre, för då blir det ett olaga integritetsintrång.
Jonas Karlsson ser positivt på de rättsliga åtgärder som planeras mot teknikens framtid.
– Nu försöker ju EU förbjuda de här apparna, vilket vi ser väldigt positivt på.
Kuratorn Linnéa Benson uppmanar barn och unga som drabbas av detta att söka stöd omedelbart.
– Berätta för någon som du litar på. Om det är en kompis först så är det jättebra. Om det är en vuxen, ännu bättre, men berätta för någon i alla fall, för det är en jättejobbig sak att bära själv.
Hon betonar att det är de vuxnas ansvar att ta det vidare till rättsväsendet om det behövs.
– Sedan behöver den vuxna hjälpa till att se hur man ska gå vidare. Om det behövs en polisanmälan eller någonting annat som gör att man kan reda ut det. För även om kränkningar är jättevanligt så är det ju aldrig okej, och man ska inte acceptera det.
Så hjälper Ecpat barn som drabbas av AI-bilder
Ecpats Jonas Karlsson berättar att stödlinjen hjälper drabbade att stoppa spridningen och ta bort materialet från nätet:
“Vi har väldigt bra kontakter, så då kan vi faktiskt få ner både bilder och konton som hotar barn. Sedan ingår vi i ett internationellt projekt som heter Projekt Arachnid via vår hotline. Om barnet har de AI-manipulerade bilderna, eller en länk till dem, kan vi ladda upp det i det internationella samarbetet. På så sätt kan vi hindra spridningen på både det öppna nätet och darknet.”