I en essä i amerikanska Atlantic vädrar den tidigare Open AI-medarbetaren David Robinson sin oro. Robinson var fram till i veckan ansvarig för de säkerhetsrapporter som bolaget skriver vid varje stor uppdatering av AI-modellerna. Nu har han sagt upp sig – och har en hel del han vill få sagt.
”Bolagen som utvecklar den här tekniken (avancerad AI, reds.an.) är inte i närheten av att vara tillräckligt försiktiga”, skriver han.
Robinson nämner en incident i somras, då en Open AI-modell på egen hand hackade konkurrenten Hugging Face.
”Jag anser att sådana misstag är typiska för branschen, med tanke på i vilken hastighet arbetet går framåt.”
Efter incidenten bromsades utvecklingen av den mest avancerade AI-modellen Astra. Men Robinson efterfrågar större noggrannhet och säkerhetsarbete i det löpande arbetet – och inte i efterhand.
”När företaget rusar från en lansering till nästa lyckas det inte uppnå den nivå av noggrannhet som jag anser krävs.”
Robinson föreslår att AI-bolagen ska drivas mer som kärnkraftverk, ”med flera lager av överdriven, tidskrävande planering, så att oundvikliga mänskliga misstag inte öppnar dörren för en katastrof”.
Flera tidigare anställda på AI-bolag har den senaste tiden larmat om risker som uppstår i arbetet med att utveckla nya, ännu mer avancerade AI-agenter. Däribland skrev en tidigare Anthropic-anställd att varken den tidigare arbetsgivaren eller Open AI ”beter sig ansvarsfullt” och att ”liv står på spel”.
Till och med bolagen själva har vädrat oro över den hastiga utvecklingen, men där har president Donald Trump ställt sig på tvären. I slutet av september samlade han cheferna för de ledande AI-företagen och slöt ett ”moraliskt bindande avtal” om att bolagen på egen hand ska stärka säkerhetsåtgärder i arbetet – utan krav eller regleringar från myndighetshåll.