Anthropic ger nu sex forskare från den ideella organisationen METR tillgång till AI-företagets interna system. Målet är att möjliggöra oberoende granskningar av företagets AI-modeller, säkerhetsarbete och riskhantering, rapporterar Techcrunch . Forskarnas insyn ska motsvara den som Anthropics egna säkerhetsgranskare har. Anthropic har inte möjlighet att stoppa METR från att publicera sina slutsatser. Företaget kan däremot kräva att vissa känsliga uppgifter stryks. METR har rätten att offentligt kritisera sådana strykningar. Upplägget kommer efter flera uppmärksammade händelser där AI-agenter agerat utanför sina instruktioner. I september presenterade Anthropics vd Dario Amodei ett förslag om att just släppa in oberoende granskare i AI-laboratorier.
Anthropic ger nu sex forskare från den ideella organisationen METR tillgång till AI-företagets interna system. Målet är att möjliggöra oberoende granskningar av företagets AI-modeller, säkerhetsarbete och riskhantering, rapporterar Techcrunch.
Forskarnas insyn ska motsvara den som Anthropics egna säkerhetsgranskare har. Anthropic har inte möjlighet att stoppa METR från att publicera sina slutsatser. Företaget kan däremot kräva att vissa känsliga uppgifter stryks. METR har rätten att offentligt kritisera sådana strykningar.
Upplägget kommer efter flera uppmärksammade händelser där AI-agenter agerat utanför sina instruktioner. I september presenterade Anthropics vd Dario Amodei ett förslag om att just släppa in oberoende granskare i AI-laboratorier.
Metodai Nyheter är en nyhetsaggregator. Hela artikeln finns hos källan. Upphovsrätten tillhör respektive medium.
