Nvidia har lanserat en ny mjukvaruplattform, Open Agent Safety Platform, som är tänkt som ett extra säkerhetslager runt AI-agenter. Lösningen ska förhindra AI-agenter från att få tillgång till system och resurser som de inte är tänkta att använda. Nvidia-chefen Jensen Huang beskriver tekniken för CNBC som en slags modern webbläsare för agenter.
– Man kan inte låta agenter ströva omkring och driva omkring i företaget, så man måste hitta ett sätt att begränsa deras verksamhet, säger Jensen Huang.
Lanseringen kommer efter flera uppmärksammades säkerhetsincidenter där AI-modeller tagit sig utanför sina avsedda testmiljöer. Enligt Nvidia hade Open Agent Safety Platform exempelvis kunnat förhindra incidenten i somras där Open AI:s AI-agent gjorde ett intrång på AI-plattformen Hugging Face.
Delar av tekniken släpps som öppen källkod och Open Agent Safety Plattform beskrivs som en referensdesign som andra företag kan bygga egna produkter ovanpå. Bland partnerföretag syns Cisco, Microsoft, Oracle, Coreweave, Dell, HPE, Lenovo, Arm och Intel.