Open AI valde att pausa tester av sin mest avancerade AI-modell Astra efter att det visat sig att modellen uppnått det som kallas kritisk förmåga att utföra cyberattacker. Nyheten kom efter flera incidenter där företagets modeller brutit sig in i bland annat mjukvaruplattformen Hugging Face och det australiensiska sjukvårdssystemet Medicare.
Frågan är om AI-modellernas tendens att olovligen börja hacka går att stoppa. Professor Pontus Johnson på KTH varnar för att det kan vara svårare än många tror. En stor utmaning med modellerna är, enligt Pontus Johnson, att man faktiskt inte vet exakt hur de kommer att agera.