I måndags meddelade den norska regeringen att man avser att införa ett temporärt förbud mot så kallade AI-glasögon på offentliga platser som parker, badstränder, skolor, lekplatser och träningsanläggningar. Orsaken är oron att folk ska filmas, fotograferas och avlyssnas utan att de vet om det, vilket enligt digitaliseringsminister Torgeir Micaelsen kan skapa ett samhälle som är otryggt och får människor att dra sig undan.
Bakgrunden är genomslaget för Metas AI-glasögon, de första smarta glasögonen att nå en massmarknad. De har kommit att kallas pervo-brillor i folkmun eftersom ett oönskat men vanligt förekommande användningsområde är att smygfilma människor, företrädesvis kvinnor.
Glasögonen har väckt motstånd, bland annat i form av appar som ska varna dig när någon i din närhet bär ett par, och börjar nu leda till både politiska och juridiska konsekvenser. Förutom förbudet i Norge utreds en rad fall i Frankrike där AI-glasögonen använts för sexuella trakasserier, Nederländernas största optikkedja har stoppat försäljningen av Metas glasögon och Europeiska dataskyddsstyrelsen väntas publicera riktlinjer i höst efter en granskning som genomförts.
Det här gäller ändå ”bara” smygfilmning, för egentligen vill Meta gå längre än så. I somras avslöjade Wired att Meta i tysthet lagt till teknik för ansiktsigenkänning i appen som driver glasögonen (vilket förstås är helt i linje med varför Facebook en gång startades: för att identifiera snygga tjejer på campus). Meta drog tillbaka koden några dagar senare.
Det nyväckta intresset för integritet är välkommet, för om man höjer blicken ser man lätt att det här bara är en del i en större trend där AI och övervakning i olika former går hand i hand.
Det handlar delvis om ”riktig” övervakning.
I USA pågår en het debatt om techbolaget Flock vars nätverk av AI-drivna säkerhetskameror som läser av fordons registreringsskyltar blir allt större. Bland annat tvingades Amazon backa från ett samarbete där företagets populära Ring-dörrkameror skulle kopplas till Flocks nätverk, som används av polis och andra rättsvårdande myndigheter.
Samtidigt införs AI-ansiktsigenkänning av myndigheter i allt fler länder. Som bekant testas tekniken just nu av svensk polis efter att en ny lag trätt i kraft i somras.
Men förutom den här klassiska ”storebror”-övervakningen börjar det också växa fram en sorts övervakning på mikronivå som drivs av AI-utvecklingen i allmänhet och av AI-agenter i synnerhet. Och skälet till det är att personliga AI-agenter fungerar som bäst när de ser allt, hör allt och vet allt om dig, din omgivning och människorna runt dig.
Om vi håller oss kvar vid Meta så har företaget nått oväntat stora framgångar med sin AI-agent Muse, som toppar applistorna i USA och laddats ner av miljoner användare. Om du missat Muse (den finns inte i Europa) så är det en AI-assistent som du chattar med likt en chattbot men som också kan utföra uppgifter som att hantera din mejl och kalender, göra restaurangbokningar, shoppa åt dig, och så vidare. Det är inte den första AI-agenten av det här slaget på marknaden men den första som förpackats på ett sätt som tilltalar och kan användas av vanligt folk. (Open AI har kontrat med Dots, som trots sina gulliga avatarer fortfarande har ett högre tekniskt insteg).
För att lyckas med allt detta behöver Muse tillgång till så mycket som möjligt. Din mejl, inlogg till alla tjänster du använder, ditt kreditkort. Och, vad det verkar, din familj och dina vänner. I helgen avslöjade Wired att Muse bygger detaljerade profiler av personer i användarens liv, som familjemedlemmar, vänner eller kollegor. Det handlar om både personuppgifter och uppgifter om relationen, som samtalsämnen eller konflikter. Profilen byggs på efter hand med nya uppgifter. Enligt Meta är det ett sätt att göra Muse mer användbar och det ska inte ske utan användarens godkännande. Hur vännerna ska samtycka framgår dock inte.
Ytterligare ett exempel kommer från Apple av alla, som historiskt varit det företag som hållit säkerhets- och integritetsfanan allra högst. När den nya versionen av Apple Watch släpptes i september presenterades det som döpts till ”Audio Intelligence”, en uppsättning funktioner som kräver att mikrofonen i klockan alltid är påslagen. En av funktionerna är Siri Recap, som sammanfattar konversationer du haft under dagen, en annan är Live Rewind som transkriberar de senaste 15 sekundernas ljud.
Apple har förstås avancerade tekniska lösningar för att göra det här så lite integritetskränkande som möjligt, bland annat gör man ett stort nummer av att inget ljud faktiskt spelas in, vilket i sig kan diskuteras, och att ingen i omgivningen identifieras. Men likväl är det en förutsättning för funktionaliteten att Apples AI ständigt lyssnar. ”Visa hänsyn till de som finns omkring dig”, råder Apple.
Jag skulle kunna dra fler exempel men det är inte poängen, utan det intressanta här är hur synen på integritet påverkas av övervakningens syfte och vem som utsätts för den.
Det är ingen nyhet att folk i allmänhet, trots att de säger annat i undersökningar, är ganska frikostiga med sin personliga integritet om de får något för det. De har inga större problem med att bli kartlagda av företag om det innebär att de får använda bra tjänster eller får bra erbjudanden. Även om jag personligen inte skulle ge en AI-agent tillgång till min mejl i det här skedet kan jag förstå lockelsen.
På samma sätt är folk i allmänhet tydligen också okej med att övervakas av myndigheterna ute på stan om syftet är att förebygga eller lösa brott. Känslan av ökad trygghet mot brottslighet trumfar känslan av ökad otrygghet på grund av övervakning.
Men i tangentens riktning kommer alltså nu en tredje kategori: där människors personliga teknikval också påverkar andra. Dina AI-glasögon kanske gör folk otrygga, även om du inte är en snuskgubbe själv. Dina vänner kanske inte vill att er relation blir kartlagd av din AI-agent. De kanske inte vill att din klocka hör allt ni pratar om.
Det ska påpekas att vi på vår sida Atlanten redan har lagstiftning som begränsar de värsta avarterna. Trots all kritik mot GDPR fyller den i det här avseendet sitt syfte. Inte om man vill ha den senaste tekniken, men om man värnar om integriteten.
Lagstiftningen kommer dock inte hindra techbolagen från att fortsätta försöka, så att den avsomnade integritetsdebatten nu väcks till liv igen är inte bara bra, det är nödvändigt.
För var går gränserna när de här systemen, som det är tänkt, blir allt mer sammankopplade med varandra? Räcker det inte att stater har potential att bygga en enorm övervakningsapparat, ska vi bygga ett privat panoptikon också?
Konsekvensen av det riskerar att bli ett samhälle där människor, precis som den norska regeringen säger, drar sig undan. Där offentliga platser blir mindre offentliga och där privata konversationer och relationer blir mindre privata. Då har den digitala tekniken som gjort så mycket för att föra människor närmare varandra plötsligt motsatt effekt.
—
Den här krönikan är hämtad ur CS Veckobrev, ett personligt nyhetsbrev med lästips, länktips och analyser skickat direkt från chefredaktör Marcus Jerrängs skrivbord. Vill du också ha nyhetsbrevet på fredagar? Skriv upp dig för en kostnadsfri prenumeration här.