Det här är en argumenterande text med syfte att påverka. Åsikterna som uttrycks är skribentens egna.
DEBATT | AI
AI används redan när svenska myndigheter tar fram underlag för beslut sjukpenning, skatt eller uppehållstillstånd. Ändå vet ingen vilka beslut AI-systemen används för eller hur de påverkar rättssäkerheten. Nästa regering har femton månader på sig innan EU:s AI-förordningskrav börjar gälla, vilket tvingar myndigheter att göra användningen spårbar och kontrollerbar.
När SvD i augusti frågade partierna om deras AI-politik fick tidningen svar från alla åtta. Om jobben, om datacenter, om ett säkerhetsinstitut, om risken att AI blir smartare än vi. Men mellan apokalypsen och arbetsmarknadskollapsen ligger dock något mer närliggande: förvaltningen. Där fattar AI redan beslut om medborgare. Och på den fråga som avgör om det går bra hade ingen ett svar, eftersom ingen ställde den: i vilka beslut – bygglov, sjukpenning, skatt, uppehållstillstånd – används AI i dag i underlaget, och var är det dokumenterat?
Svaret finns inte. Inte för att någon döljer det, utan för att ingen kollar. Regeringen har, som Jessica Rosencrantz påpekade, gett över hundra myndigheter i uppdrag att redovisa sitt AI-arbete. Den sammanställning Finansdepartementet publicerade i oktober förra året av de första 25 redovisningarna är läsvärd på ett sätt författarna inte avsåg: nästan alla använder generativ AI. ”Bättre beslutsstöd” är den nytta som oftast anges och ”rättssäkerhet” är den risk som oftast anges. Ingen av de 25 beskriver hur de skiljer det ena från det andra. Allmänna reklamationsnämnden skriver rakt ut att effekterna är svåra att kvantifiera. Malin Östh (V) sade till SvD att det är riktiga människor som drabbas om något går fel i myndighetsutövningen. Det stämmer. Men vem ser felet?
Det är här det blir en fråga om förvaltning, inte om teknik. Vi vet i dag en del om hur en läkare, en handläggare eller en jurist reagerar när AI bekräftar det som de redan tror. I våra studier av läkare som diagnostiserar med AI-stöd är mönstret detsamma: när maskinen håller med i en felaktig diagnos slutar man leta efter felen i 95 procent av fallen. Inte av slarv, utan för att bekräftelse känns som kontroll och sanning.
Att bli bekräftad är inte samma sak som att ha rätt.
Det farliga felet är inte att AI hittar på – det syns och rättas oftast. Det farliga felet är när ett välformulerat underlag bekräftar en redan felaktig bedömning. Det syns inte i beslutet. Det syns, om alls, i överklagandestatistiken ett år senare när verkligheten kommer ikapp. Förr eller senare brukar verkligheten alltid visa sig oavsett om vi vill eller inte.
Sverige har redan regler för detta, äldre än AI. Förvaltningslagen kräver att beslut motiveras och att ärenden utreds i den omfattning som krävs. Från december 2027 lägger EU:s AI-förordning till att den som använder AI i högriskbeslut ska säkerställa mänsklig kontroll och bevara loggar. Nästa regering får femton månader på sig att svara på en fråga som ingen i dag kan svara på. Den AI-verkstad som civilministern lyfter fram är rätt plats att börja – om den också mäter vad AI gör med besluten, inte bara hur mycket administration som försvinner.
Det behövs ingen ny myndighet och ingen ny teknik. Det behövs ett krav på proceduren före underskrift. Innan ett AI-stött underlag läggs till grund för ett beslut ska fyra saker vara gjorda och dokumenterade: fakta är skilda från antaganden; den starkaste motbilden har tagits fram och bemötts; de påståenden beslutet vilar på är kontrollerade mot källa – handling, register, data; och en namngiven handläggare har intygat vad som prövats och vad som förkastats. Allt loggas per beslut, oföränderligt, läsbart för revision och tillsyn. Kravet är oberoende av vilken modell myndigheten har köpt, kräver ingen insyn i modellens inre och ändrar inte vem som beslutar. Det gör bara det förvaltningslagen redan kräver kontrollerbart när en maskin har hållit i pennan.
Det kostar en rad i nästa års regleringsbrev. Det kan prövas i en myndighet på ett halvår, med mått som redan finns: ändringar vid omprövning, överklaganden, handläggningstid. Då har svensk förvaltning något ingen annan i Europa har: ett svar på vad AI faktiskt gör med beslutskvaliteten – mätt, dokumenterat och inte antaget. Det är ett bättre uppdrag för det säkerhetsinstitut Centerpartiet föreslår än att följa riskerna på avstånd.
Så till partierna, oavsett vem som bildar regering: ni behöver inte ha en åsikt om AI. Ni behöver kunna svara på i vilka beslut AI redan finns. Den som först kan svara på det äger frågan. I dag äger ingen den.
Rikard Rosenbacke
fil dr i bolagsstyrning, forskare inom AI, med 30 års erfarenhet av beslutsfattande inom finans och andra högriskmiljöer
Carl Rosenbacke
läkarstudent, Lunds universitet
Victor Rosenbacke
ekonom, läkarstudent, Lunds universitet
artikelförfattarna forskar tillsammans om mänskligt beslutsfattande i samspel med AI och är författare till boken ”Lita inte på boken – Hur man tänker med AI”, en bok för skolor, elever, lärare och föräldrar