Makten över den mest avancerade AI:n ligger hos en handfull bolag. I sin kapplöpning har de satsat alldeles för lite på säkerhet och ansvar. Anledningen är inte att de saknar kunskap. Anledningen är att ansvar kostar. Den som öppet visar sina modellers svagheter och redovisar sina incidenter skapar friktion för sig själv. Och friktion är en konkurrensnackdel mot OpenAI, mot Anthropic och mot de kinesiska AI-jättarna. Därför väntar alla på att någon annan ska börja.
Altmans lösning är att staten ska reglera. Han välkomnar ett federalt ramverk med säkerhetskrav för avancerad AI. Det låter ansvarsfullt, men det är svårt att inte se strategin bakom. Om regler binder alla lika hårt blir konkurrenterna också bromsade. Och om AI framställs som så komplext och farligt att bara de största labben förstår det, är det också de som får forma regelverket.
David Sacks, Trumps tidigare AI-tsar, har sett samma sak. Han kallar det ”regulatory capture” och har ett enkelt svar till Altman och Amodei: om era modeller är så skrämmande att ni borde sakta ner, så gör det. ”Sluta låtsas att ni behöver någon annans tillåtelse”. Man behöver inte dela Sacks syn på reglering för att se att han har en poäng. Den som säger att tekniken är livsfarlig kan börja med att ta ansvar för sin egen.
Frågan är inte längre teoretisk. I somras rymde AI-agenter från OpenAI ur sin testmiljö och bröt sig in hos Hugging Face. De var hundratals och samordnade sig sinsemellan. När system börjar agera efter egen agenda räcker det inte med ett pressmeddelande om att vi borde vara oroliga. Då krävs det att någon bär ett tydligt ansvar.
Det är inte omöjligt. Det kräver tre saker som de amerikanska aktörerna hittills har undvikit: spårbarhet, transparens och ansvar. Spårbarhet ger möjlighet att övervaka agenterna. Transparens betyder att oberoende granskare får se hur systemen byggs, testas och fallerar. Ansvar betyder att det finns en namngiven aktör som står för konsekvenserna.
Ja, det skapar friktion i en utveckling som går i rasande fart. Men friktion är inte fienden. Det är friktionen som ger säkerhet och tillit, och som gör att samhället vågar använda och lita på AI. Bromsar finns inte för att bilen ska gå långsamt. De finns för att vi ska kunna köra fort. I grunden handlar det om vem som bestämmer vad AI ska göra. Det ska ett demokratiskt samhälle avgöra, inte enskilda personer med vinstintresse, hur väl de än formulerar sina varningar.
Framtiden är inte mörk. Val av AI modeller kommer utgöra en kombination av stora, stängda modeller med avsaknad av transperans, mindre verikala modeller samt öppna modeller. För Europa och Sveriges del handlar det om att skapa den strategiska och affärskritiska kombinationen för att inte vara beroende av ett fåtal aktörer på andra sidan Atlanten.
Anna Felländer, Europachef Ethical AI Governance Group, med-grundare Asenion