Open AI uppmanar nu USA att ta ledningen i arbetet med att ta fram internationella tekniska standarder för de mest avancerade AI-systemen. Bland annat efterlyser Open AI sätt att mäta AI-systems förmågor och risker, samt internationella rutiner för att rapportera allvarliga incidenter. Detta inkluderar system som autonomt kan förbättra sina egna förmågor.
“Om USA tar ledningen nu kommer det att avgöra om landet får möjlighet att forma det globala ramverket för AI eller om det tvingas se på medan ett fragmenterat, ojämnt och konfliktfyllt system etablerar sig runt omkring”, skriver Open AI i ett blogginlägg och fortsätter:
“Detta kommer också att avgöra om avancerad AI stärker de nätverk som USA och dess allierade redan har; om man inte tar ledningen kan det leda till att dessa nätverk försvagas.”
Reuters uppmärksammar att utspelet kommer samtidigt som AI väntas bli en viktig fråga under FN:s generalförsamling i New York den här veckan. Open AI-chefen Sam Altman ska tala inför FN:s säkerhetsråd på onsdag.
USA:s regering har tidigare motsatt sig uppmaningar om att bromsa AI-utvecklingen. President Donald Trumps administration har då argumenterat för att en inbromsning skulle kunna ge Kina möjlighet att minska USA:s tekniska försprång.