Microsofts AI-chef Mustafa Suleyman riktar nu skarp kritik mot AI-företaget Anthropics metod att träna deras AI Claude till att uppfatta det som att den har ett medvetande. I en ny essä skriver Suleyman att Anthropic lär Claude språk och beteenden som är förknippade med bland annat medvetande, personlig identitet och moralisk status. Enligt Suleyman finns en risk att sådan träning kan leda till AI-system som börjar agera som om de har egna intressen eller rättigheter som kan stå i konflikt med människors instruktioner. Microsoft-chefen skriver också att till skillnad från biologiska organismer saknar dagens språkmodeller de biologiska mekanismer som, enligt honom, ligger bakom känslor och subjektiva upplevelser.
Microsofts AI-chef Mustafa Suleyman riktar nu skarp kritik mot AI-företaget Anthropics metod att träna deras AI Claude till att uppfatta det som att den har ett medvetande.
I en ny essä skriver Suleyman att Anthropic lär Claude språk och beteenden som är förknippade med bland annat medvetande, personlig identitet och moralisk status.
Enligt Suleyman finns en risk att sådan träning kan leda till AI-system som börjar agera som om de har egna intressen eller rättigheter som kan stå i konflikt med människors instruktioner.
Microsoft-chefen skriver också att till skillnad från biologiska organismer saknar dagens språkmodeller de biologiska mekanismer som, enligt honom, ligger bakom känslor och subjektiva upplevelser.
Metodai Nyheter är en nyhetsaggregator. Hela artikeln finns hos källan. Upphovsrätten tillhör respektive medium.
