Den nyaste medarbetaren i företaget sover aldrig, ber aldrig om löneförhöjning och kan klonas redan innan lunch. Den kan dessutom med fullt självförtroende fatta fel beslut tusentals gånger innan någon märker det.
Det hjälper till att förklara varför vissa it-ledare har börjat tala om AI-agenter som anställda, kollegor eller praktikanter snarare än som programvara. När en agent väl kan uppdatera register, utfärda återbetalningar, skicka meddelanden eller agera i flera företagssystem, liknar implementeringen inte längre särskilt mycket installationen av en ny applikation.
Nya artiklar i Harvard Business Review har drivit den analogin ännu längre. I en av dem hävdas att agenterna bör behandlas som en ny arbetsstyrka, med definierade roller, befogenheter, källor till sanning, tillsyn och revisionsspår. I en annan rekommenderas att man ger agenterna namn och arbetsbeskrivningar, introducerar dem, utvärderar deras prestationer och utökar deras ansvarsområden när de har bevisat sitt värde.
Men det finns en hake: Människor kan börja tro på metaforen.
En separat HBR-studie med 1 261 chefer visade att när AI betraktades som en medarbetare snarare än ett verktyg tog chefer med erfarenhet av att arbeta med AI-agenter mindre personligt ansvar för resultaten och lade större ansvar på AI:n. De eskalerade också fler problem och upptäckte färre fel. I studien uppgav 31 procent av de tillfrågade att deras företag redan betraktade AI som en teamkamrat eller anställd, medan 23 procent uppgav att agenterna förekom i organisations- eller arbetsdiagram.
För it-chefer kan lösningen därför vara att fritt låna från handboken för medarbetarhantering – utan att dra metaforen för långt.
Placera inte mjukvara i organisationsschemat
Amy Loomis, analytiker på IDC, drar en tydlig gräns kring ett ord: ansvar.
Människor, säger hon, har skyldigheter gentemot sina företag och gentemot varandra, och de har en förståelse för företagskultur och värderingar som en agent kan efterlikna språkligt utan att egentligen besitta dem.
Att kalla en agent för en kollega är därför potentiellt mer än bara en ofarlig antropomorfism. Beteckningen antyder en jämbördig relation och kan uppmuntra människor att överlåta bedömningen till ett system som är mycket bra på att ge det som begärts, säger Loomis, men inte nödvändigtvis på att känna igen vad som faktiskt behövdes.
– Ansvarsskyldighet är något som förknippas med egenskaper som är unikt mänskliga. Agenter kan få tillstånd att komma åt data, men ansvarsskyldigheten för vad de gör med den åtkomsten ligger hos den person som gav agenten åtkomst, inte hos agenten själv, säger hon.
Denna distinktion innebär ändå att det finns mycket att hämta från personalhantering. Det är rimligt att ge en agent spårbar åtkomst och noggrant avgränsade behörigheter – och att införa en nödavstängningsfunktion för att förhindra att agenten får fortsatt åtkomst. Men Loomis anser att det är effektivare att tänka i termer av att ge en agent en verksamhetsstadga snarare än en mänsklig identitet: definiera vad systemet gör, vad det får tillgång till och vad människor fortfarande är ansvariga för.
Med andra ord: ge agenten ett säkerhetskort. Sätt bara inte en bild på den.
Metaforen med den anställde
Raja Iqbal, grundare av Ejento AI – ett företag som arbetar med styrning av agentbaserad AI – och medförfattare till HBR-artikeln”To Scale AI Agents Successfully, Think of Them Like Team Members”, ligger närmare Loomis än rubriken antyder.
Iqbal säger att metaforen är avsedd att sätta cio:er, ciso:er och andra teknikledare i rätt ”kognitiv hållning”. Att betrakta en agent som en teammedlem, menar han, kan påminna ett företag om att tillämpa välbekanta ledningsprinciper: en unik identitet, tydlig mänsklig tillsyn, definierad befogenhet, utgiftsgränser, godkända informationskällor och en revisionsspårbarhet.
Om ett annat begrepp ger samma disciplin, har han inget emot det heller.
Faktum är att Iqbal uttryckligen avvisar syntetiska medarbetare med mänskliga personligheter och platser i organisationsschemat. Det skapar precis det ansvarsproblem som kritikerna oroar sig för: ”Det var Bob som gjorde det” blir en ursäkt även om Bob är en programvara.
– Metaforen är farlig när den är ren dekor, säger Iqbal.
Med det menar han att företag hamnar i trubbel när de anammar de mänskliga yttre kännetecknen – namn, personligheter eller kollegors språk – utan att samtidigt införa den övervakning, de gränser och det ansvar som gör analogin användbar.
Hans föredragna distinktion är enklare: agenten behöver en teknisk identitet så att företaget kan rekonstruera vad den gjorde, medan en människa måste förbli ansvarig för dessa handlingar.
– Identiteten är grunden för granskningen, och den mänskliga ägaren är grunden för ansvarsskyldigheten, säger han.
Enklare uttryckt: agentens identitet svarar på vad som agerade; den mänskliga ägaren svarar på vem som är ansvarig.
Analogin med en anställd blir återigen mer användbar när man ska avgöra hur mycket frihet en agent bör få. Iqbal rekommenderar graderad autonomi. En agent kan börja med att en människa godkänner varje åtgärd, gå vidare till att utföra åtgärder med låg risk självständigt och så småningom få begränsad autonomi om dess observerade prestanda motiverar det. Ett allvarligt fel kan leda till att den hamnar längre ner på stegen – eller helt och hållet blir avskedad.
Det låter mycket som en provanställningsperiod för en nyanställd. Det är också helt enkelt god mjukvarustyrning för ett probabilistiskt system.
Hos DXC är professionella agenter mjukvara
Russell Jukes har haft gott om tillfällen att testa den distinktionen. Som chief digital and information officer på DXC Technology ansvarar han för AI inom en it-tjänsteorganisation med cirka 115 000 anställda.
– Vi ser en AI-agent som en superkraft, inte som en person, säger han.
DXC delar in agenter i två kategorier. Personliga agenter arbetar för enskilda medarbetare och fungerar i allmänhet med hjälp av medarbetarens identitet och åtkomst. Professionella agenter är företagssystem som är byggda för bredare arbetsflöden. På en av DXC:s större AI-plattformar har medarbetarna hittills skapat ungefär 8 000 personliga agenter, jämfört med cirka 100 professionella agenter.
Den professionella varianten står under mycket strängare tillsyn. Den kan ha en egen icke-mänsklig identitet, inloggningsuppgifter, behörigheter och befogenhetsgränser. Aktiviteten går genom kontrollplan som gör det möjligt för DXC att se vad agenterna gör och, vid behov, stänga av dem.
Jukes tror att många av dessa agenter så småningom kommer att försvinna helt ur användarnas synfält. En agent kan till exempel över natten kartlägga interna resursbehov och rekommendera medarbetare till projekt. Ingen behöver hälsa på den på morgonen eller betrakta den som en kollega; man tar helt enkelt emot resultatet.
Det är där han avviker från metaforen med arbetaren.
Jukes säger att han tidigt insåg att AI inte kan implementeras som konventionell SaaS. Hans första försök följde den välbekanta mjukvarumodellen: gör applikationen tillgänglig, låt medarbetarna använda den inom det föreskrivna arbetsflödet och förvänta dig att användningen kommer av sig själv.
– Jag gjorde det, och ingen använde den, säger han.
Erfarenheten övertygade honom om att AI kräver ett annat tillvägagångssätt, och han lovade sig själv att ”aldrig mer implementera AI som om det vore SaaS”.
Konventionell SaaS är i stort sett deterministisk: programvaran begränsar användarna till ett definierat arbetsflöde och ger förutsägbara resultat. Agentbaserad AI är annorlunda. Den kan tolka ett mål, välja mellan verktyg och datakällor och bestämma hur man ska nå ett resultat. För Jukes innebär det att cio:er måste utforma riktlinjer, behörigheter, datatillgång, skyddsåtgärder och befogenheter kring agenten, snarare än att bara driftsätta ännu en applikation.
Det skapar också en tydligare ansvarskedja. Om en person godkänner agentens åtgärd bär den personen ansvaret för beslutet. Om en autonom agent agerar i enlighet med en affärspolicy ligger ansvaret hos de personer som ansvarar för den policyn. Om tekniken inte fungerar som avsett övergår ansvaret till it-avdelningen.
Agenten själv får aldrig skulden.
Behandla den som en praktikant?
Nina Tatsiy, global cio på Quadient, ett företag inom automatiseringsteknik, intar en ståndpunkt någonstans mellan Iqbal och Jukes. Hon kallar agenterna för praktikanter, men använder medvetet termen som en analogi, inte som en organisatorisk beteckning.
Agenter måste hanteras som programvara, med säkerhet, styrning och tekniska kontroller, samtidigt som man inser att deras probabilistiska beteende kräver ytterligare övervakning.
– Man måste göra båda delarna, säger Tatsiy.
En praktikant får inte alla lösenord och behörigheter redan första morgonen. Det borde inte heller en agent få. Den måste introduceras, utbildas, övervakas, omskolas när dess miljö förändras och så småningom tas ur bruk när den är föråldrad.
Quadient undviker i allmänhet att ge agenterna mänskliga namn. Tatsiy är orolig för att detta uppmuntrar människor att se dem som riktiga kollegor med förmåga att fatta beslut.
– Överdriven tillit är ett problem, säger hon, särskilt eftersom AI tenderar att framföra slutsatser med sådan säkerhet.
Tatsiy föredrar att använda AI för att ifrågasätta en hypotes eller lyfta fram frågor som människor inte har beaktat, snarare än att låta den dra slutsatser åt dem.
Ändå har analogin med praktikanten visat sig vara användbar i praktiken.
I en implementering inom leverantörsreskontra lät Quadient en agent i praktiken följa mänskliga medarbetare och lära sig av deras feedback i olika scenarier. Först efter att dess prestanda hade testats i allt mer komplexa situationer började den ge rekommendationer. Människor fattade fortfarande det slutgiltiga beslutet.
Agenten vann med andra ord mer förtroende. Den fick inte ansvaret.
Låna från HR, men låt människor ha ansvaret
Den framväxande klyftan handlar därför kanske mindre om huruvida agenterna är anställda eller programvara än om vilka delar av respektive ledningsmodell som it-cheferna bör behålla.
Agenter behöver individuella tekniska identiteter, men inte mänskliga identiteter. De behöver definierade ansvarsområden, men inte jobb i mänsklig mening. De behöver övervakning och utvärdering, men inte årliga prestationsutvärderingar. De kan få successivt större befogenheter, men inte successivt större ansvar.
Och ju starkare de blir, desto viktigare blir den distinktionen.
Att behandla en autonom agent som vanlig SaaS bortser från det faktum att den kan tolka, välja och agera på sätt som konventionell programvara inte kan. Att behandla den som Steve från ekonomiavdelningen skapar ett annat problem: förr eller senare kan någon börja anta att ”Steve” vet vad han gör.
It-chefer kan faktiskt behöva låna mycket från HR när agentbaserad AI sprider sig över hela företaget. De bör dock inte börja dela ut anställningsbevis.