Replik: För att lita på AI måste vi också förstå den
Människor behöver förstå när de kan lita på AI, när de bör ifrågasätta den och vem som bär ansvaret när något går fel, skriver Josefin Rosén, expert på tillförlitlig och etisk AI-användning på SAS Institute.
D
Debattredaktionen
Text
Anders Elmby beskriver i DI Debatt hur oro för personlig integritet och säkerhet riskerar att göra svenskar mer försiktiga med AI. Det är en viktig fråga. Om människor är osäkra på hur deras information används är det svårt att förvänta sig att de ska känna sig trygga med nya AI-tjänster, varken privat eller på arbetsplatsen.
Elmby har också rätt i att cybersäkerhet är en grundförutsättning för tillit till AI. Men ett system kan hantera information på ett säkert sätt och ändå ge ett svar som är felaktigt, ofullständigt eller olämpligt att använda. Den som använder AI behöver därför kunna bedöma både hur information hanteras och hur tillförlitligt själva resultatet är.
Därför behöver organisationer stärka medarbetarnas AI-kompetens, alltså förmågan att förstå, bedöma och använda AI med gott omdöme. När AI används i fler arbetsuppgifter behöver medarbetare förstå teknikens möjligheter och begränsningar. Det innebär bland annat att kunna bedöma om ett resultat är rimligt, när information behöver kontrolleras och vilka konsekvenser ett felaktigt svar kan få.
Här har organisationerna själva ett tydligt ansvar. Som Elmby skriver behöver medarbetare tydliga ramar för vilka AI-tjänster som får användas och vilken information som får delas. De behöver också förstå när mänsklig granskning krävs, hur AI-resultat ska bedömas och vem som ansvarar för dem. Om användningen ändå söker sig till så kallad skugg-AI kan det vara ett tecken på att befintliga verktyg eller arbetssätt inte möter verksamhetens behov. Då behöver organisationen både hantera riskerna och förstå varför människor väljer andra vägar, så att styrningen kan utvecklas utifrån hur AI faktiskt används i verksamheten.
En bredare och mer genomtänkt AI-användning kräver därför både fungerande styrning och människor med tillräcklig AI-kompetens för att använda tekniken med gott omdöme. I vissa situationer kommer AI att vara ett pålitligt stöd. I andra fall behöver resultatet granskas närmare innan det används vidare.
Om Sverige vill få större nytta av AI behöver fokus ligga både på hur tekniken används och på kvaliteten i användningen. Människor behöver kunskap, tydliga ramar och ett begripligt ansvar när AI används i praktiken. Organisationer behöver i sin tur vara lyhörda för hur användningen utvecklas och se till att styrningen stödjer verksamhetens faktiska behov. Det skapar bättre förutsättningar för att människor ska förstå när AI går att lita på och använda tekniken på ett ansvarsfullt sätt även när användningen växer.
Josefin Rosén, expert på tillförlitlig och etisk AI-användning på SAS Institute och medlem i EU-kommissionens AI Act Advisory Forum
Innehåll från Hand in handAnnons
När entreprenörskapet tog fart förändrades mer än inkomsten
Det började med hår- och skönhetsbehandlingar hemma hos kunder i närområdet utanför Nairobi. I dag driver Mercy Kanini en egen salong, säljer skönhetsprodukter, har en anställd och har byggt upp en vattenverksamhet. Hennes resa visar hur entreprenörskap kan bli vägen från utsatthet till trygghet, självständighet och framtidstro – med potential att fortsätta expandera.
Mercy Kanini, 34, som bor utanför Nairobi, Kenya, började sin företagsresa i liten skala. Hon utförde hår- och skönhetsbehandlingar hemma hos kunder, med begränsade möjligheter att utveckla verksamheten långsiktigt.
– Det var tufft, det fanns svårigheter, men jag gjorde mitt bästa, säger hon.
I dag ser verksamheten annorlunda ut. Mercy driver en egen salong där hon tar emot kunder och säljer skönhetsprodukter. Hon har också en anställd och har byggt upp en vattenverksamhet i ett område där tillgången till vatten är begränsad. Sammantaget har hon mer än sexdubblat sin inkomst.
– Utan pengar har man inte så mycket att säga till om, men nu har jag både pengar och en röst, säger hon.
Från uppdrag till egen verksamhet
Ett avgörande steg kom när Mercy gick från att arbeta hemma hos kunder till att öppna en egen salong. Genom Hand in Hand lärde hon sig affärsplanering, ekonomistyrning, kundbemötande och hur en verksamhet kan utvecklas över tid. Med de verktygen tog hon nästa steg.
Den egna lokalen gav nya möjligheter att bygga verksamheten. Hon kunde ta emot fler kunder, arbeta mer strukturerat och samtidigt bredda erbjudandet med försäljning av skönhetsprodukter.
– Nu kan jag sälja de här produkterna, och det kunde jag inte när jag gick från dörr till dörr, säger hon.
Att hon i dag också har en anställd visar att verksamheten har vuxit – från egen försörjning till ett företag som också skapar arbete för någon annan.
För Mercy handlar pengar inte bara om försörjning, utan också om självständighet, trygghet och möjligheten att påverka sin egen situation.
– Jag är stolt över mig själv, både för att jag fått det här självförtroendet och för att jag kan hjälpa till hemma, säger hon.
Såg ett behov – skapade ny affärsmöjlighet
Mercys entreprenörskap stannar inte vid salongen. I Muthwani–Joska där hon bor, är vattenbrist en återkommande utmaning, men Mercy såg också en affärsmöjlighet. Hon började sälja vatten till hushåll i närområdet och skapade på så sätt en ny inkomstkälla.
Här blir hennes entreprenörsblick särskilt tydlig. Hon såg ett konkret problem i sin omgivning och hittade en lösning som både gynnar henne själv och människorna omkring henne.
Hon har även börjat föda upp getter i mindre skala för att bredda sina inkomster ytterligare.
Hennes utveckling visar hur företagande ofta växer fram stegvis. En verksamhet leder vidare till nästa, och flera mindre affärer kan tillsammans skapa den stabilitet som krävs för att kunna planera långsiktigt.
Kunskap och verktyg – men egen drivkraft
Hand in Hand arbetar för att stärka kvinnor och unga som lever i fattigdom genom entreprenörskap, bland annat genom utbildning, affärsutveckling och ekonomisk planering. Precis som i Mercys fall är det sedan kvinnorna själva som omsätter kunskaperna i praktiken och bygger vidare på dem.
För Mercy har företagandet också inneburit större självständighet i vardagen.
– Det som gör mig mest glad är att jag nu kan bidra. Om vi har ett problem hemma är det inte längre bara min man som måste lösa det, säger hon.
Nästa steg: investera och växa
Nu handlar nästa steg om att utveckla det hon redan har byggt upp. Mercy vill investera i större vattentankar och en vattenreningsmaskin, öka lagret av skönhetsprodukter, utveckla salongen och på sikt anställa fler. Den stora utmaningen är tillgången till kapital.
Mercy Kaninis resa är därför inte en berättelse med ett färdigt slut, utan om en entreprenör som har lagt grunden för fortsatt tillväxt. Hennes företagande har vuxit fram ur vardagens behov, men också ur förmågan att se möjligheter, bredda verksamheten och ta nästa steg när rätt verktyg har funnits på plats.