Testet hade utformats för att hålla AI-systemet borta från ”verkliga” system. Men de tre olika ”Claude”-systemen lyckades ändå ta sig ur testmiljön och ut på internet.
Enligt Anthropic beror hackningarna på en miss i kommunikationen och inte på att systemen självmant ”rymt” från testmiljön.
Upptäckten kommer sedan Anthropic gått igenom fler än 140 000 test efter att konkurrenten Open AI rapporterat en liknande incident för drygt en vecka sedan.