G20:s innovationsministrar enades den 2 september i North Carolina om principer för ny teknik. De så kallade Carolina-principerna betonar befintliga branschregler, prövning i verkliga miljöer och nya regler där de gamla inte räcker till. Utgångspunkten är klok: varje tekniskt framsteg behöver inte en egen myndighet och en egen regelbok.
Men även en återhållsam reglering måste kunna se vad den reglerar. Där finns en lucka som berör både regeringar och svenska företagsledningar: vet vi i vilka beslut AI redan påverkar underlaget, alternativen och slutsatsen?
I Dagens industri den 28 april argumenterade Rikard Rosenbacke för att begränsa AI som beslutsfattare och skala användningen som granskare. G20:s överenskommelse gör nästa fråga aktuell: hur säkerställer vi att granskningen verkligen sker?
Problemet finns mellan modellen och beslutet. Utvecklarna testar sina system. Tillsynsmyndigheterna granskar verksamheter och utfall. Däremellan omvandlar någon en maskins förslag till ett kreditbeslut, en investering eller ett myndighetsbeslut. Det är där ett övertygande svar får ekonomiska eller rättsliga konsekvenser.
Tänk på en kreditkommitté. AI sammanfattar bolagets ekonomi, väljer vilka risker som lyfts fram och formulerar rekommendationen. En människa justerar texten och godkänner lånet. Formellt är beslutet mänskligt. Men vem kontrollerade vilka uppgifter som föll bort, vilka antaganden som behandlades som fakta och vilka alternativ som aldrig presenterades?
En mänsklig underskrift är inte samma sak som en oberoende prövning. Människan blir ingen kontrollfunktion om uppgiften i praktiken bara är att hålla med.
I en analys i Nature beskrev vi problemet med falsk bekräftelse i AI-stödd diagnostik: läkaren och AI- systemet är överens, men båda har fel. När AI bekräftade en felaktig diagnos stod läkaren fast vid beslutet i 95% av fallen. Risken är inte bara att maskinen vilseleder människan. Den kan också bekräfta människans misstag och minska viljan att söka vidare.
Den risken är relevant även utanför vården. En välformulerad investeringsanalys kan ge ett svagt antagande större auktoritet utan att tillföra bättre underlag. AI har gjort det billigt att producera trovärdiga resonemang. Att kontrollera dem mot bokföringen, avtalet eller verkligheten kräver fortfarande arbete.
G20:s inriktning behöver därför kompletteras på beslutsnivå. Det kräver inte en ny global AI-byråkrati. Det kräver tre konkreta arbetssätt.
För det första: kartlägg besluten, inte bara programvaran. Företag och myndigheter bör identifiera vilka typer av betydelsefulla beslut som påverkas av AI i analys, prioritering, rekommendation eller formulering av beslutsunderlag. En förteckning över inköpta AI-verktyg visar inte hur verksamhetens omdöme påverkas.
För det andra: dokumentera prövningen. Vid beslut med stora konsekvenser bör det framgå vilka centrala uppgifter som kontrollerats mot oberoende underlag, vilka antaganden som återstår, vilket starkt alternativ som övervägts och vem som tagit ansvar för slutsatsen. Det handlar inte om att lagra varje chatt eller avslöja leverantörens teknik. Det handlar om att kunna förklara varför organisationen litade på underlaget.
AI kan hjälpa till att hitta motargument. Men ytterligare ett AI-svar är inte i sig en oberoende kontroll. Avgörande påståenden måste prövas mot något utanför modellens resonemang: ett originaldokument, tillförlitliga data eller ett faktiskt utfall.
För det tredje: följ beslutens kvalitet, inte bara arbetets hastighet. Jämför, där det är möjligt, likvärdiga beslut med och utan AI-stöd. Följ fel, omprövningar, kreditförluster eller överklaganden utifrån verksamhetens uppgift. Räkna även tiden för kontroll och rättelser. Sparade minuter är en vinst, men inte ett bevis på bättre omdöme.
Kraven ska stå i proportion till konsekvenserna. Ett utkast till en mötesinbjudan behöver inte samma granskning som ett kreditavslag, en diagnos eller en miljardinvestering. Lägg kontrollen där ett fel kan göra verklig skada, inte på varje harmlös användning av AI.
För svenska företag är detta en styrelse- och vd-fråga. IT-avdelningen kan hantera systemen, men bör inte ensam avgöra vilka affärsrisker som accepteras eller vilken prövning ett investeringsbeslut kräver. Styrelsen bör kunna fråga: var påverkar AI våra viktigaste beslut, vad kontrolleras och vad visar utfallet?
Ingen metod gör AI eller människor ofelbara. Syftet är att göra fel möjliga att upptäcka och invändningar möjliga att framföra innan beslutet fattas – och att göra ansvaret spårbart efteråt. Samma dokumentation behövs för att visa när AI faktiskt skapar värde. Sverige behöver inte välja mellan att använda AI snabbt mot att behålla kontrollen. En tydlig prövning gör det lättare att skala det som fungerar och stoppa det som inte gör det. Arbetet kan delegeras till en maskin. Ansvaret för vad vi gör med resultatet kan inte det.
G20 har pekat ut en väg mot mindre detaljstyrning. Då måste vi samtidigt kunna se hur besluten blir till. Färre regler får inte betyda mindre ansvar.
Rikard, Carl och Victor Rosenbacke
Rikard Rosenbacke är fil.dr i corporate governance och forskare inom AI, med 30 års erfarenhet av beslutsfattande inom finans och andra högriskmiljöer. Carl Rosenbacke är läkarstudent och Victor Rosenbacke är ekonom och läkarstudent vid Lunds universitet. Tillsammans forskar de om mänskligt beslutsfattande i samspel med AI och är författare till boken ”Lita inte på boken – Hur man tänker med AI”, en bok för skolor, elever, lärare och föräldrar.