En av dem som ställer sig bakom en reglering är Microsoft-grundaren Bill Gates, som säger att det inte räcker att techbolagen sköter det själva.
– Ingen tycker att självreglering är tillräckligt, säger Gates till NBC News.
Gates menar att myndigheter och politiker behöver agera och styra regleringen.
– Det måste vara ett krav. Det kommer att innebära en del extra arbete för branschen, men det kommer inte att bromsa utvecklingen särskilt mycket.
Gates: Redan farlig
Samtidigt säger Gates att tekniken redan i dag kan vara farlig om den hamnar i fel händer.
– AI är definitivt tillräckligt kraftfullt för att driva fram händelser som kan leda till en miljard människors död. Även om det är svårt att säga något med hundra procents säkerhet, har det aldrig funnits ett lika kraftfullt vapen som när människor med onda avsikter får tillgång till de senaste AI-verktygen, säger Microsoft-grundaren till NBC News.
”Oroliga”
Bill Gates har tidigare varnat och sagt att utvecklarna bakom tekniken är medvetna om riskerna med verktygen. I en intervju med New York Times säger Gates att techbolagen avsiktligt tonat ned riskerna för att tjäna pengar.
– Bakom stängda dörrar är de som förstår hur bra den här tekniken är och hur snabbt den utvecklas mycket oroliga, säger Gates till New York Times.