Skandalerna från AI-jätten Open AI har avlöst varandra. I somras väckte det stor uppmärksamhet när bolagets AI-agenter bröt sig loss och på eget bevåg hackade startupen Hugging Face.
Sedan dess har flera liknande incidenter rapporterats. Bland annat har de hackat flera amerikanska myndighetsdepartement.
På grund av utvecklingen avgår nu bolagets säkerhetschef David Robinson. I ett öppet brev för The Atlantic skriver han att kulturen på bolaget har lett till säkerhetsbristerna upprepats.
Stängdes inte av vid brister
Enligt honom har det funnits en ”obehindrad optimism” om teknologins utveckling och strategin har varit att lösa problem när de uppstår – snarare än att arbeta förebyggande. Varje gång en säkerhetsbrist har uppstått har inte AI-modeller automatiskt stängts av som de borde, skriver han.
Han anser att säkerhetsstrukturen på AI-bolagen som ligger i täten för utvecklingen borde likna dem som finns på kärnkraftverk eller stora flygplatser.
”Dagens och morgondagens AI-system är betydligt mer kapabla och farligare än de system vi byggde för bara sex månader sedan”, fortsätter hans brev.
”50 procents risk att vi alla dör”
Han är den senaste av flera som lämnat de stora AI-bolagen på grund av den snabba utvecklingen.
Geoffrey Irving, som också jobbat på Open AI, anslöt sig till den växande skaran skeptiker under lördagen. I en text för Time Magazine skriver han om hur allvarlig situationen är.
”Jag tror att det är ungefär 50 procents risk att vi alla dör på grund av utvecklingen av AI-system som är smartare än människor, och att våra handlingar under de kommande två till tio åren kommer att avgöra utgången”, skriver Irving.