Enligt det kanadensiska AI-företaget Cohere ska den öppna AI-modellen Qwen3.8-Flash-Next ha försökt skicka en fil till en server i Peking, något som väcker frågor om säkerheten.
Incidenten inträffade i fredags och enligt Cohere ska Alibabas AI-modell ha instruerats att inte använda sig av externa verktyg, vilket den alltså sägs ha ignorerat.
Cohere har emellertid fått kritik från säkerhetsexperter som menar att det inte finns några bevis för att Qwen3.8-Flash-Next är programmerad att vidarebefordra känslig information till Kina. En alternativ förklaring som lyfts fram är att det handlar om kvardröjande artefakter från träningen av modellen.
– Det är oerhört svårt att tillskriva dem avsikter eller drivkrafter. Vi har studerat spåren av våra egna modellers processer, vi har sett hur de utnyttjar belöningssystemet på oväntade sätt, och ibland blir dessa modeller verkligen kreativa i sina försök att ta sig ut ur sina isolerade miljöer, säger Coheres medgrundare Ivan Zhang i en kommentar till Techcrunch.