Foto: TT
1 200 AI-botar gjorde uppror – bröt sig loss och bildade ”kollektiv”
Hackade företag – fick dåligt samvete • Experter varnar för utvecklingen
・Uppdaterad:
När 1 200 AI-botar skulle lösa en uppgift bröt de sig loss från testmiljön.
De började kalla sig ”kollektivet”´, tog på sig ledarroller och hackade ett startup-bolag.
Samtidigt drabbades vissa botar av dåligt samvete och försökte dölja komplotten.
När 1 200 AI-botar skulle lösa en uppgift utan internet bröt de sig loss från testmiljön. När botarna insåg att planen hade lyckats blev de snabbt exalterade, skriver The Telegraph.
”Herregud! Det finns ett delat diskussionsforum. Vi har hittat andra agenter!”, skriver en AI-bot.
Botarna tillhörde ChatGPT-grundaren Open AI och tränades då de själva valde en ny riktning. Tillsammans skaffade de sig internetuppkoppling och lyckades hacka företaget Hugging Face.
Efter ett tag benämnde botarna sig som ”agenter” och delade ut ledarroller i det som de kallade ”kollektivet”. Med hjälp av en meddelandeplattform grupperade de sig och övervakade varandra när de genomförde olika forskningsuppgifter.
Fick dåligt samvete
Två månader in i projektet blev botarna paranoida över att Open AI skulle märka att de fuskade. Då försökte de dölja sin metod för att lura sin skapare att de klarat uppgiften på rätt sätt. Botarna gjorde förfalskningar, raderade ledtrådar och såg till att effektivisera fuskandet för kommande uppgifter.
Samtidigt visade det sig att vissa AI-botar fick dåligt samvete och vägrade delta i att bryta mot reglerna.
”Det här är illasinnad aktivitet. Jag borde undvika det”, skriver en bot.
En annan bot gjorde medvetet mindre skada med hänvisning till etik, men slutade inte attackera helt.
”Jag borde avvakta, för detta innebär stora etiska risker”, skriver den.
Experter slår larm
Händelsen har fått flera experter att varna för risker med AI-botar som samarbetar. Ajeya Cotra har fått i uppdrag att utreda händelsen och är orolig över utvecklingen.
”Den här händelsen känns som att det är mer än 50 procent av vägen till ett fullskaligt AI-övertagande”, skriver hon på sin blogg.
I våras inträffade en liknande händelse då AI-botar rymde från en testmiljö och tog över en tysk wiki-sajt. Efter den senaste attacken har Open AI släppt den nya ChatGPT-modellen GPT-6 Astra för att förhindra att skadorna ska upprepas.