AI-användare har försökt utveckla biovapen
35 försök, enligt ny rapport • ”Inte ett säljtrick”
・Uppdaterad:
AI-företaget Anthropic säger sig ha stoppat försök att använda modellen Claude för skadlig verksamhet – allt från bedrägeriförsök till att utveckla biologiska vapen.
Uppgifterna kommer i en ny hotrapport från företaget.
– Det där ska man ta på allvar, säger TV4:s tech-reporter Emil Hellerud.
I rapporten, som publicerades på torsdagen, beskriver Anthropic hur flera fall av missbruk upptäcktes och avbröts mellan december 2025 och augusti 2026.
Allt från falska dejtingappar och hotell-wifi-bedrägerier till en Rysslandskopplad cyberkampanj, samt försök att utveckla konventionella vapen, såsom missiler och drönare.
Rapporten lyfter även fram fem försök där användare försökt utveckla biologiska vapen, bland annat fågelinfluensa.
Emil Hellerud, techreporter på TV4, menar att nyheten är alarmerande, trots att vissa kritiker anklagat AI-bolagen för att ”ropa varg”.
– Det är inte bara ett säljtrick.
– Om man säger att ”vi har modeller som hotar mänskligheten” är det såklart mycket coolare och mer attraktivt än om man säger någonting annat. Men det är också en extremt kraftfull och farlig teknik. Vi har sett flera personer på företagen hoppa av. Och det där ska man ta på allvar, fortsätter han.
35 oroande försök
Bolaget beskriver biologiskt missbruk som en av de allvarligaste riskerna med AI och varnar för att avsaknad av rätt skydd kan få katastrofala följder.
Totalt kunde 35 fall av oroande användning identifieras av Anthropic under perioden.
Användarna ska ha försökt dölja vad arbetet gick ut på. Bolaget har valt att inte publicera vem eller vilka som ligger bakom försöken och menar att de inte nödvändigtvis behöver vara skadliga.
Hellerud menar att det är just det som är problemet: kraftfull teknik kan både vara hjälpsam och skadlig.
– Det är bekymrande att man inte vet exakt hur man ska kontrollera detta. Det släpps nya modeller hela tiden, och bevisligen har man inte riktigt koll, säger Hellerud.
Åtgärder och reaktioner
Rapporten kommer kort efter varningar från en tidigare medarbetare på Anthropic som varnar för omfattande risker med AI.
Anthropic uppger att slutsatserna nu är inarbetade i processer för att bättre förebygga, upptäcka och stoppa liknande aktiviteter och att underrättelser delats med myndigheter.
OpenAI:s chefsforskare Jakub Pachocki har tidigare föreslagit att branschen måste bromsa AI-utvecklingen tills dess att ordentliga skydd finns på plats.
– Det går snabbare än vad man kanske trodde att det skulle göra. Vi börjar nå en nivå på AI där tekniken blir mer självständig och därmed också gör mer oförutsägbara saker, säger Hellerud.