Införandet av AI har gått snabbare än utvecklingen av styrningen av AI, och detta får konsekvenser för verksamheten.
Enligt en undersökning från Cloud Security Alliance (CSA) uppger 65 procent av organisationerna att de har upplevt minst en incident relaterad till AI-agenter under det senaste året. Nästan hälften har kopplat bekräftade eller misstänkta dataläckor till obehörig användning av generativ AI, enligt EY:s Technology Pulse Poll.
Klyftan handlar inte längre om brist på riktlinjer, utan om brist på kontroller som fungerar. Och lösningen är inte mer dokumentation, utan en minimalt fungerande styrning som fokuserar på det som verkligen spelar roll.
– Många företag bedriver AI-verksamhet, vissa har AI-principer, färre har genomförbara AI-kontroller och ännu färre har bevis för att dessa kontroller fungerar, säger Sara Jodka, advokat vid Dickinson Wright som ger råd till kunder om AI-styrning.
Gartner-analytikern Lauren Kornutick ser detta ofta hos sina kunder och varnar för att det är svårare att eftermontera styrning än att bygga in den från början.
– Det största problemet jag ser med styrning efter implementeringar är att det är väldigt svårt att backa från tidigare beslut, säger hon.
– Om en organisation tidigare var mycket avslappnad i sin AI-användning och en incident inträffar, är det mycket svårare att ta verktyg eller modeller ur drift som tidiga användare var vana vid att använda.
De kända okända faktorerna
Man kan inte styra det man inte ser. Och de flesta organisationer ser inte så mycket av sin AI-portfölj som de tror.
Mer än två tredjedelar (68 procent) av de som svarade på CSA:s enkät uttryckte stor tillförsikt när det gäller sin insyn i AI-agenter, men 82 procent rapporterade också att de hade upptäckt dolda AI-agenter under det föregående året. Hillary Baron, chef för forskning vid CSA, kallar detta en blind fläck som maskerar sig som självförtroende.
– Organisationer har god insyn i de agenter de känner till, och det är lätt att missta det för att man ser allt, säger Baron.
– God insikt i det kända blir i smyg en övertygelse om att det inte finns något annat där ute.
Samtidigt säger 78 procent av teknikcheferna att införandet av AI går snabbare än deras förmåga att granska eller övervaka systemen, enligt EY. Och 52 procent uppger att AI-initiativ på avdelningsnivå drivs utan formellt godkännande eller tillsyn.
Skugg-AI har utvecklats bortom att anställda registrerar sig för Chat GPT.
– Det omfattar nu webbläsartillägg, inbyggda SaaS-funktioner, kodassistenter, verktyg för transkription av möten, copiloter och agentliknande arbetsflöden, konstaterar Jodka.
På betalnings- och dataföretaget Deluxe valde ctdo Yogaraj Jayaprakasam en annan strategi: att översvämma området med godkända verktyg innan skugg-AI hann slå rot.
– Skugg-AI är inte ett tekniskt misslyckande; det är ett styrningsvakuum, säger han.
– Därför genomförde vi en bred utrullning med avsikt, för att öppna en godkänd väg innan de icke-godkända vägarna befästes.
Vems AI är det egentligen?
Även när AI är synlig är det ofta oklart vem som ansvarar för styrningen av den.
Enligt Kornutick har ungefär en fjärdedel av ciso:erna fullt ansvar för AI-styrningen, medan mer än hälften delar ledningen med en annan funktion.
– Ciso har den teknik och tekniska expertis som krävs för att hantera kraven på inspektion under körning och efterlevnad av policyer för AI-styrning, men de saknar ofta expertisen att införa skyddsåtgärder med hänsyn till sammanhanget eller fatta beslut om vilken AI som ska användas och för vilket syfte, säger hon.
Fragmenterat ansvar är ett problem, enligt Jodka på Dickinson Wright. Om ansvaret enbart ligger hos den juridiska avdelningen kan man fastställa standarder men inte genomdriva kontroller i koden. Om ansvaret enbart ligger hos it-avdelningen misslyckas det eftersom AI-styrningen spänner över integritet, diskriminering, immateriella rättigheter, cybersäkerhet och regleringsrisker. Ansvar som enbart ligger hos en kommitté ”blir ofta trögt och rent symboliskt”, säger Jodka. Hon rekommenderar en modell med tre ansvarsområden: utvecklare äger de system de driftsätter; juridik-, säkerhets- och efterlevnadsavdelningarna fastställer standarder och granskar högriskanvändningar; och internrevisionen testar om programmet faktiskt fungerar.
Utmaningen med samordningen är påtaglig, menar Aslam Rawoof, partner på Benesch Law.
– AI genomsyrar alla delar av organisationen. Det kan inte ägas enbart av teknik- eller juridikavdelningen. Man behöver bokstavligen en kommitté som sammanträder regelbundet – med representanter från juridik, teknik och ekonomi – och som rapporterar till vd:n, om inte till styrelsen, säger han.
Den dolda sidan av back-end
Styrningen tenderar att fokusera på front-end: att godkänna verktyg och utarbeta riktlinjer för acceptabel användning. Men back-end – att veta när man ska stänga av något – får betydligt mindre uppmärksamhet. Faktum är att enligt CSA har endast 21 procent av organisationerna formella avvecklingsprocesser för AI-agenter, och de därmed förknippade riskerna växer med tiden.
– En agent som inte har tagits ur drift är inte inaktiv, varnar Baron från CSA.
– Den har fortfarande giltiga inloggningsuppgifter och åtkomst, men nu övervakas den inte längre av någon. Det är det som gör den farligare än en brist vid lanseringen.
CSA kallar detta för ”avvecklingsskuld”, och den ackumuleras osynligt. Varje agent som har satts i drift och aldrig tagits ur drift utvidgar tyst attackytan.
Agenter förändrar allt
Agentbaserad AI höjer insatserna ytterligare. När AI var ett chattfönster handlade styrningsfrågan om vilket verktyg man skulle köpa. När AI blir en agent som utför åtgärder inuti systemen blir frågan istället vem som är ansvarig för vad den gör.
– Det berör it, affärsenheten, den juridiska avdelningen och riskhanteringen på en och samma gång, säger Jayaprakasam.
– De flesta organisationsscheman är inte utformade för det.
De flesta styrningsmodeller utformades för en långsammare takt.
– Även där styrning finns visar undersökningen att den bygger på periodiska granskningar och mänskligt godkännande vid beslutspunkter snarare än kontinuerlig tillämpning i realtid, säger Baron.
– Det här är en modell utformad för arbete i mänsklig takt som tillämpas på system som agerar autonomt och i maskinhastighet.
Vad som faktiskt fungerar
Perfektion är inte målet – prioritering är det.
– Cio:er behöver inte utmärka sig inom varje aspekt av styrning, utan bara när det gäller att hantera icke-förhandlingsbara frågor som användningsfall med hög risk, transformativa användningsfall eller säkerhet och integritet, säger Kornutick på Gartner.
Baron från CSA instämmer:
– De agenter som kombinerar bred åtkomst med hög autonomi är de som du bör rikta dina starkaste kontroller och din uppmärksamhet mot.
Utöver prioritering finns det några saker som utmärker en AI-styrning som ger resultat:
- Den förändrar beslut. ”Leder den här processen någonsin till att vi avstår från att finansiera något, eller stänger ner något?”, frågar Jayaprakasam. ”Om varje initiativ som går in i processen kommer ut på andra sidan godkänt, har du ingen styrning – du har en notarietjänst.”
- Det är ett operativsystem, inte ett juridiskt dokument. De organisationer som hanterar styrningen på rätt sätt upprätthåller en löpande AI-inventering, klassificerar användningsfall efter risk, integrerar kontroller i befintliga arbetsflöden och använder tekniska åtgärder – inte bara skriftliga riktlinjer, säger Jodka.
- Det mäter det som är viktigt. På Deluxe förlitar sig Jayaprakasam på vad han kallar ”evals”: en standarduppsättning av uppgifter och bedömningskriterier för varje AI-funktion. ”Evals är skillnaden mellan ’vi tror att det här fungerar’ och ’vi kan visa att det här fungerar’”, säger han. ”Det är också det som gör att man kan fatta ett beslut om avveckling utan att det förvandlas till en politisk strid, eftersom siffrorna – inte den mest högljudda intressenten – avgör.” Och det arbetet är aldrig avslutat: ”Utan mätning är styrningen bara en åsikt med en kalenderinbjudan”, säger Jayaprakasam.
- Det bygger på det man redan har. Kornutick avråder från att bygga upp styrningen från grunden. ”AI är bara en annan typ av teknik, och för många organisationer bör man helt enkelt förbättra befintliga processer med hänsyn till vad som är nytt med AI och vilka andra risker AI förstärker”, säger hon.
Målet, tillägger Kornutick, är samstämmighet – ”att alla ror båten i samma riktning” – där styrningen ses som en drivkraft för verksamheten, inte som ett hinder. Gartner kallar detta för ”Return on Integrity”: att göra investeringar i styrning som möjliggör verksamheten snarare än att bromsa den.