Dario Amodei, vd för datajätten Anthropic, vill bromsa utvecklingen av nya AI-modeller tills utvecklarna med rimlig säkerhet kan garantera att de kan kontrollera dem. Hans 3 850 ord långa uppmaning att sänka takten när det gäller banbrytande AI-teknik, kommer efter att en svärm Open AI-botar rymt från en stängd testmiljö, tagit sig ut på internet och in i infrastrukturen hos Hugging Face, en plattform för apputveckling.
Som Amodei skriver är det inte första gången något sådant hänt. Open AI är inte heller det första företag som råkat ut för en oförutsedd rymning.
För en månad sedan avgick Demis Hassabis som vd för Google Deepmind för att i stället ta sig an frågor om artificiell generell intelligens och hur den ska styras. Han och hans team arbetar nu med att utveckla ett normerande tillsynsorgan, ett offentligt-privat partnerskap med uppgift att garantera AI-säkerhet.
Det är heller inte första gången en AI-ledare velat pausa teknikutvecklingen. 2023, efter lanseringen av generativ AI, krävde hundratals människor ett stopp, bland dem Elon Musk som äger X. Även Sam Altman, vd för Open AI, har senare ställt sig bakom Amodeis uppmaning om paus.
Men kapplöpningen har fortsatt, driven av den hårda konkurrensen mellan stora teknikföretag vars investerare vill få fram superintelligens för att få avkastning på de enorma summor pengar varje AI-träning slukar – och också på grund av Kinas framsteg inom AI.
Samtidigt har AI-agenternas okontrollerade beteende väckt uppseende och flera ledande forskare har hoppat av, bland dem en ingenjör på Anthropic som sagt att han tror det finns mer än 10 procents sannolikhet för att AI kan ha orsakat mänsklighetens utplåning vid slutet av detta decennium.
Stuart Russell, tillförordnad ordförande för International Association for Safe and Ethical AI, skrev nyligen i en artikel i Financial Times: ”Kanske kommer världens regeringar så småningom att inse att medborgarna i deras länder föredrar att inte vara döda.”
Dario Amodeis upprop är välkommet. AI-företag behöver tid för eftertanke och för att kunna överblicka sina produkters alla konsekvenser innan de släpper ut dem på marknaden. Men förslag som Demis Hassabis ger AI-företagen alltför stort inflytande över hur tillsynsorganet agerar, finansieras och organiseras.
Kommersiella företag som tjänar pengar på att marknadsföra sina produkter ska inte ensamma bedöma risker eller besluta vilka risker samhället ska ta.
Amodeis förslag är inte detaljerat och kan i själva verket vara ett försök att förekomma statliga regleringar i ett läge då oron ökar både i USA:s kongress och bland landets gräsrötter, där det också finns ett utbrett motstånd mot datacenter.
Syftet med Kaliforniens AI-lagstiftning är att reglera AI för att förhindra dess allvarligaste konsekvenser och att fastställa företagens juridiska skyldigheter. Andra delstater är inne på samma spår.
Anthropics vd vill ha ett system med ”inbäddade utvärderare”, ett slags oberoende övervakare på företagen. Han vill också att branschen skapar gemensamma säkerhetsstandarder i en ny organisation som företagen själva ska upprätta och övervaka för att förhindra att AI-modeller släpps innan de är säkra. Slutligen vill han se internationellt samarbete mellan demokratiska stater och Kina.
Men hur ska ”inbäddade utvärderare” utses? Och är det ett organ som kontrolleras av AI-industrin själv som ska fatta beslut i frågor som påverkar hela mänskligheten?
Är det inte USA:s regering som ska föreslå och verka för ett internationellt samarbete, som inte bara ska skydda USA:s befolkning utan hela världens?
Det finns många obesvarade frågor i Amodeis förslag, men det väsentliga är att den paus han föreslår verkligen blir av, fast av andra skäl än dem han tar upp.
Det viktiga är nu att bygga upp en offentlig infrastruktur för effektiv tillsyn, särskilt i USA men också i många andra länder.
När USA:s regering kräver en paus eller en långsammare takt i AI-utvecklingen väger det tyngre än ett branschinitiativ. Dessutom kan det bidra till att få fram den kompetens som krävs för att verkställa Donald Trumps presidentorder om att ledande företag ska ge regeringen tillgång till sina modeller i upp till 30 dagar innan de släpps till andra parter.
För att på så kort tid utvärdera komplicerade system behövs en mängd fristående expertis och stora investeringar i den offentliga sektorn. Det kräver också en överordnad tillsynsmyndighet med kompetens, resurser och kapacitet att övervaka och reglera marknaden.
Hugging Face-affären väcker grundläggande frågor om tillförlitlighet, ansvar och system för gottgörelse. Förslaget från Anthropics vd Dario Amodei är ett steg i rätt riktning, men blir tandlöst om USA:s regering fortsätter att hävda att inga regleringar av AI behövs.
Företag producerar. Regeringars plikt är att ta ansvar. Kan företag inte kontrollera sina AI-agenter är de försumliga, men regeringar som inte agerar när befolkningen hotas eller drabbas, begår ett värre brott. En regerings främsta uppgift är alltid befolkningens säkerhet.
Det som saknas är alltså politisk vilja. Tills de politiker som styr världens länder tar sitt ansvar kommer kapplöpningen mot nollpunkten att fortsätta.
Översättning Karen Söderberg
Project Syndicate
SKRIBENTEN
Gabriela Ramos har lett utarbetandet av UNESCO:s rekommendationer om etik inom AI.
Vill du också skriva på Aktuella frågor? Så här gör du.