Nvidias vd: ”Växla upp AI-utvecklingen – för säkerhetens skull”
Vid sitt Sverigebesök kommenterar Nvidias vd Jensen Huang den senaste tidens säkerhetsincidenter med agenter från två av de ledande AI-bolagen som tagit sig ur sina testmiljöer och gjort dataintrång.
”De har all makt i världen att bestämma när de ska lansera en produkt”, säger han till SVT.
Vd:n för världens högst värderade bolag, Nvidia, är på Europaturné för att sälja in budskapet att vi européer måste se till att stå på egna ben i AI-racet, genom AI-modeller med öppen källkod istället för de som erbjuds av AI-jättar som OpenAI och Anthropic.
Bolagen har den senaste tiden varit i fokus av säkerhetsskäl, där deras AI-agenter under tester tagit sig ut på internet och brutit sig in i andra företags system. Nvidia har djupa samarbeten med bägge som delägare och leverantör till dem.
”Tänker inte ifrågasätta dem”
SVT frågar Jensen Huang om han anser att OpenAI och Anthropic agerat vårdslöst.
– Varje företag har makten att bestämma själv. Vill man bli vd är det för att man vill ha den makten. De tror att de gör det rätta, och jag tänker inte ifrågasätta dem.
Huang kritiserar inte bolagen, men understryker att det är deras eget val när en produkt släpps. Tidigare under dagen sa han från scenen att AI som inte är säker inte borde släppas, på samma sätt som Volvo aldrig skulle släppa en osäker bil.
IMF varnar för AI-risker
Tidigare i veckan pekade Internationella valutafonden, IMF, ut en stor cyberattack som en av de tre största riskerna för den globala finansiella stabiliteten. IMF varnade för att statsstödda hackare och kriminella nätverk nu har tillgång till de mest avancerade AI-modellerna. En annan av de tre riskerna var en kraftig nedgång för AI-bolagen på börsen.
Är det dags att sakta ned farten i AI-racet? Jensen Huangs svar är att det tvärtom behövs ännu mer AI.
– När jag säger att vi måste växla upp AI-utvecklingen menar jag att vi måste utveckla AI-teknikens säkerhet, stabilitet och förmåga. Det finns ingen motsättning mellan att främja kapacitet och säkerhet samtidigt.
Så arbetar vi
SVT:s nyheter ska stå för saklighet och opartiskhet. Det vi publicerar ska vara sant och relevant. Vid akuta nyhetslägen kan det vara svårt att få alla fakta bekräftade, då ska vi berätta vad vi vet – och inte vet. Läs mer om hur vi arbetar.