När jag började arbeta på Facebook 2009 trodde jag på den vision som grundaren Mark Zuckerberg sade sig ha: att koppla ihop och ge röst åt människor i hela världen. Idag vet vi alla hur det blev. Meta, moderbolaget för Facebook, Instagram och Whatsapp, riktar in sig på att skapa så mycket engagemang som möjligt. Det har resulterat i beroendeframkallande plattformar som ger användarna känslostormar, sprider falsk information och sår splittring i samhället.
Efter 15 års arbete åt Facebook beslöt jag att bli visselblåsare. Jag hade varit omgiven av smarta människor som byggde och marknadsförde funktioner som uppmuntrar till tvångsmässigt bruk, oändlig skrollning, automatisk uppspelning och flöden som prioriterar det innehåll individen verkar föredra. Allt detta har gjorts medvetet, framför allt för att maximera vinsten.
Lyckligtvis tycks världen börja inse vilken skada sociala medier vållar, särskilt bland unga människor.
I början av juli i år överlämnade en oberoende expertgrupp sin slutrapport om hur barn och unga kan skyddas på nätet, till EU-kommissionens ordförande Ursula von der Leyen, och ett lagförslag väntas i höst.
Flera EU-länder är inne på att införa en åldersgräns för sociala medier.
EU-kommissionens rapport förespråkar inte ett generellt förbud för vissa åldrar, utan riktar i stället in sig på techjättarna och vill tvinga dem att själva ta bort de skadliga inbyggda funktionerna i sina produkter, en strategi som har stöd i såväl forskarvärlden som den allmänna opinionen.
Vill regeringar och myndigheter skydda barn och unga, måste ägarna av sociala medier – på samma sätt som livsmedelsproducenter och biltillverkare – kunna visa att deras plattformar är säkra för att få tillträde till marknaden.
Ett generellt förbud utgår ifrån att beroendeframkallande sociala medier inte går att reglera. Men så är det inte. De är resultatet av åratals lobbande från techföretagen och regeringars ovilja att reglera marknader.
Generella förbud kan vara en ineffektiv åtgärd. Australien var först ut i december förra året genom att förbjuda unga under 16 år att ha sociala konton. Tre månader senare publicerades en rapport som visade stora brister i tillämpningen av lagen. Den hade inte lett till någon minskning av nätmobbning eller bildbaserade övergrepp. I april i år hade hälften av alla unga mellan 12 och 15 år fortfarande aktiva konton på nätet.
Australien har därför börjat tänka om och riktar nu in sig på de skadliga funktioner på nätet som påverkar barns hälsa och välmående. Kanada, Spanien, Brasilien och Tyskland har redan vänt sig direkt till techföretagen och betonat att det är deras ansvar att utforma säkra plattformar.
Fler regeringar bör förbjuda designfunktioner som kan skada barn och kräva att techföretagen håller sig till strikta säkerhetsstandarder verifierade av en oberoende tredje part. Över 170 organisationer har undertecknat ett upprop där de efterlyser en ”säkerhet-genom-design”-strategi för sociala medier, och brittiska välgörenhetsorganisationer har publicerat riktlinjer för hur de kan se ut.
I en nyligen publicerad undersökning gjord i fem europeiska länder säger tre fjärdedelar av de vuxna att de vill se en designlösning som gör alla icke godkända sociala plattformar oåtkomliga för barn.
I februari varnade EU-kommissionen Tiktok. Om plattformen inte ändrar sin beroendeframkallande design, väntar böter på upp till 6 procent av omsättningen. Nyligen uttalade kommissionen i ett preliminärt beslut att Meta inte tagit hänsyn till riskerna för att bli beroende av oupphörligt skrollande. Det innebär att företaget bryter mot DSA, lagen om digitala tjänster. I USA kräver fyra delstater 1,4 biljoner dollar i skadestånd för att Meta har formgivit Facebook och Instagram för att skapa beroende hos unga användare.
I slutänden är alla reformer beroende av starka kontrollmekanismer. Regeringar har försökt reglera sociala medieplattformar på frivillig väg med böter för överträdelser. Men för världens mest lönsamma företag är det lätt att betrakta böter som bara en extra omkostnad. Påföljderna måste alltså vara så kännbara att de inte kan negligeras.
EU har nu chansen att skapa världsomspännande åtgärder för barns säkerhet på nätet. Det är lovande att Ursula von der Leyen, som under det senaste året varit för ett generellt åldersförbud, signalerade en ny europeisk inriktning, säkerhet genom design, när hon nyligen presenterade den oberoende gruppens rapport.
Den rekommenderar åldersgränser, men bara tills beroendeframkallande och skadlig design tagits bort. Bevisbördan för att sociala medier är säkra och oskadliga läggs på teknikföretagen och inte på tillsynsmyndigheterna.
EU har alltså skaffat sig ett försprång. Expertgruppen hänvisade bland annat till de senaste tillsynsåtgärderna mot Tiktoks beroendeframkallande funktioner, och till pågående granskningar av Snapchat, X/Grok och Meta.
Den politiska omsvängningen bör EU snarast förankra i lagstiftningen om sociala medieplattformar. Och den bör utvidgas och skärpas i lagen om digital rättvisa som väntas senare i år.
Om sociala medieplattformar rensas på evighetsskrollande, engagemangsoptimerande grundinställningar och ständiga pushnotiser blir de säkrare för unga människor. En åldersgräns förändrar inget i själva plattformen. De skadliga delarna finns kvar, effekterna kommer i bästa fall bara senare.
Säkerhet genom design är en förändring av själva plattformen som hindrar att barn och unga utsätts för en bevisat skadlig produkt. Den ger dessutom utrymme för konkurrens mellan säkrare plattformar.
EU-lagstiftningen kräver att produkter som släpps in i unionen ska vara bevisat oskadliga. Sociala medier ska inte vara ett undantag.
Översättning Karen Söderberg
Project Syndicate
SKRIBENTEN
Kelly Stonelake, tidigare chef på Meta som blivit visselblåsare och arbetar för barns säkerhet på nätet
Vill du också skriva på Aktuella frågor? Så här gör du.