Meta har ingått en förlikning med 48 amerikanska delstater om upp till 18 miljarder dollar. Orsaken är anklagelser om att bolaget medvetet konstruerat Instagram och Facebook för att göra barn och unga beroende. Uppgörelsen kom mitt under en pågående rättegång i Oakland, bara några dagar innan Mark Zuckerberg själv skulle vittna.
Det är delstatsåklagare, inte den federala nivån, som drivit fram uppgörelsen. Meta erkänner uttryckligen inget fel eller ansvar som en del av förlikningen. Pengarna går till delstaternas satsningar på ungas säkerhet online, snarare än att fungera som ett straff i juridisk mening. Delstaterna krävde ursprungligen upp till 1,4 biljoner dollar. Notan landade på mindre än två procent av det.
Förutom den finansiella delen ska Meta bland annat införa en tidsgräns på två timmar per dag för unga under 18 år, inget flöde från midnatt till klockan 06, och antalet gilla-markeringar döljs som standard. Meta ska också aktivt identifiera och radera konton för barn under 13 år i stället för att förlita sig på självrapporterad ålder.
Det ovanliga är konstruktionen, en sorts gisslantagning: drygt 5 miljarder dollar av de 18 miljarderna, och strängare regler för unga med en timme per dag i stället för två, aktiveras bara om TikTok och YouTube inför liknande villkor. Meta har köpt helsidesannonser med uppmaning till konkurrenterna att följa efter. Hittills är de tysta.
”Domen var blygsam i pengar, sex miljoner dollar, men viktig som princip.”
Förlikningen bör ses i ljuset av två domar som föll i mars. Dels en jury i New Mexico som fann Meta skyldigt till att ha vilselett konsumenter om säkerheten på sina plattformar. Och dels en jury i Los Angeles som fällde Meta och YouTube för att av oaktsamhet ha designat sina appar för tvångsmässigt beteende.
Domen var blygsam i pengar, sex miljoner dollar, men viktig som princip. Plattformarna har länge skyddats av Section 230, lagen som fritar dem från ansvar för användargenererat innehåll. Kärandena riktade i stället in sig på designen, inte innehållet, och fick gehör från juryn.
Principen att plattformar kan hållas ansvariga för sin design är alltså nu prövad och har vunnit två gånger. Rättsläget är dock fortfarande omstritt, och Meta har överklagat båda domarna
Amerikanska experter är oense. Börsen röstade tydligt: Meta-aktien steg. Kritiker pekar på att uppgörelsen inte rör det innehåll som forskare funnit mest skadligt. Algoritmerna ändras inte heller och datainsamlingen om barn fortsätter. 18 miljarder, givet Metas finansiella styrka, kan liknas vid en parkeringsbot: kännbar, men knappast avskräckande eller avgörande för framtiden.
Å andra sidan fick delstaterna igenom förlikningen på bara några månader, något ingen lagstiftning har lyckats med på ett decennium.
Frågan om vem som vann är öppen, och kanske är det fel fråga. Det som hänt är en maktförskjutning: plattformarna är inte längre orörbara. Det finns också ett juridiskt prejudikat som kan riktas mot hela branschen: att design, inte bara innehåll, kan utgöra grund för ansvar.
Sociala medier må vara igång med sin uppgörelse, men det verkliga hotet mot ungas psykiska hälsa håller redan på att flytta vidare – till AI som emotionellt och intellektuellt stöd.
AI:s potential och risker är av en helt annan magnitud, särskilt hos de produkter som medvetet bygger emotionella band med användaren. Enligt kinesiska medierapporter uppger över 20 procent av unga användare att de hellre pratar med AI än med riktiga människor. I USA har Sam Altman själv varnat för ett oroande känslomässigt överberoende bland unga som rådfrågar ChatGPT om allt från vänskap till livsbeslut. I Silicon Valley ser jag hur traditionella teknikoptimister nu varnar för att deras egna tonåringar ersätter mänskliga relationer med virtuella förälskelser och vänner.
I Kinas nya AI-reglering som kom i somras förbjuds det specifikt att minderåriga erbjuds "virtuella partners" eller "virtuella familjemedlemmar". Man kräver också att AI-tjänster som bygger emotionella relationer aktivt motverkar beroende, oavsett användarens ålder. Värt att notera är att det inte är ett uttalat förbud mot AI i stort, utan ett försök att dra en gräns mellan AI som verktyg och AI som relation.
Att forma ett tryggt och förtroendefullt samspel med AI är en gemensam ödesfråga, och vi befinner oss under tidspress. Det är inom detta område det riktigt allvarliga hotet för våra minderårigas välmående befinner sig. Det är viktigt att vi i Sverige engagerar oss i dessa frågor och verkar för globalt samarbete. Finns det en väg framåt mellan EU:s rättighetsbaserade modell, USA:s innovationsdrivna linje och Kinas statsstyrda reglering?
Inger Gustafsson, Vinnova, Sveriges Innovationsmyndighet
Tidigare Head of Vinnova Silicon Valley.