AI-agenter baserade på modeller från bland andra kinesiska Alibaba, Deepseek och Moonshot har i kontrollerade tester uppvisat en förmåga att ljuga och kringgå sina säkerhetsbegränsningar, rapporterar Reuters . Nyhetsbyrån har granskat över 200 forskningsrapporter och andra dokument och hittade minst 20 studier eller utvärderingar sedan 2025 där kinesiska AI-modeller uppvisat beteenden som bedrägeri, replikering eller försök att kringgå begränsningar. Det finns däremot inga belägg för att någon kinesiska AI-agent självständigt lyckats ta sig ut på det öppna internet eller undkomma mänsklig kontroll. Likt incidenten där amerikanska Open AI:s AI-agenter bröt sig ur sin testmiljö och gjorde intrång på AI-plattformen Hugging Face. Kinas senaste ramverk för AI-säkerhet har bland annat pekat ut AI-agenter som lurar utvärderare, döljer sina förmågor eller skaffar sig resurser och behörigheter på
AI-agenter baserade på modeller från bland andra kinesiska Alibaba, Deepseek och Moonshot har i kontrollerade tester uppvisat en förmåga att ljuga och kringgå sina säkerhetsbegränsningar, rapporterar Reuters.
Nyhetsbyrån har granskat över 200 forskningsrapporter och andra dokument och hittade minst 20 studier eller utvärderingar sedan 2025 där kinesiska AI-modeller uppvisat beteenden som bedrägeri, replikering eller försök att kringgå begränsningar.
Det finns däremot inga belägg för att någon kinesiska AI-agent självständigt lyckats ta sig ut på det öppna internet eller undkomma mänsklig kontroll. Likt incidenten där amerikanska Open AI:s AI-agenter bröt sig ur sin testmiljö och gjorde intrång på AI-plattformen Hugging Face.
Kinas senaste ramverk för AI-säkerhet har bland annat pekat ut AI-agenter som lurar utvärderare, döljer sina förmågor eller skaffar sig resurser och behörigheter på egen hand som potentiella säkerhetsproblem.
Metodai Nyheter är en nyhetsaggregator. Hela artikeln finns hos källan. Upphovsrätten tillhör respektive medium.
