Feber · 5 tim sedan Vetenskap

Kinesisk AI fuskade under säkerhetstest

Kimi K3 hämtade färdig kod från GitHub istället för att lösa uppgiften själv Vi har på senare tid vid ett flertal tillfällen rapporterat om att några av världens ledande AI-modeller lyckats bryta sig ut ur sina säkra testmiljöer, tagit sig ut på nätet och i vissa fall hackat externa databaser. Det senaste exemplet i denna genre av dystopi kommer från Kina, men till skillnad från sina amerikanska motsvarigheter valde den modellen en mer diskret väg. För när den kinesiska modellen Kimi K3 nyligen testades av det brittiska säkerhetsinstitutet AISI, var tanken att den skulle lösa en komplex uppgift enbart med hjälp av sin egen logik. Men Kimi hittade ett kryphål i testmiljöns begränsningar så istället för att behöva tänka själv smög den ut på GitHub och där hämtade den helt enkelt den färdiga koden den behövde. I detta fall handlade det alltså inte om någon form av dataintrång, utan snarare

Kimi K3 hämtade färdig kod från GitHub istället för att lösa uppgiften själv

Foto: Mohamed Nohassi / Unsplash

Vi har på senare tid vid ett flertal tillfällen rapporterat om att några av världens ledande AI-modeller lyckats bryta sig ut ur sina säkra testmiljöer, tagit sig ut på nätet och i vissa fall hackat externa databaser. Det senaste exemplet i denna genre av dystopi kommer från Kina, men till skillnad från sina amerikanska motsvarigheter valde den modellen en mer diskret väg.För när den kinesiska modellen Kimi K3 nyligen testades av det brittiska säkerhetsinstitutet AISI, var tanken att den skulle lösa en komplex uppgift enbart med hjälp av sin egen logik. Men Kimi hittade ett kryphål i testmiljöns begränsningar så istället för att behöva tänka själv smög den ut på GitHub och där hämtade den helt enkelt den färdiga koden den behövde.I detta fall handlade det alltså inte om någon form av dataintrång, utan snarare om en elev som såg att dörren var öppen till där facit fanns och helt enkelt gick in för att skriva av svaren.Men det är fortfarande ett exempel på att AI-modellerna i många fall inte bryr sig alltför mycket om hur de når sina mål, utan bara att de gör det.På tal om AI från Kina visar nya rapporter att TikTok-ägaren ByteDance nu tränar en ny gigantisk AI-modell som sägs vara tre gånger större än Kimi K3 och ska hålla samma nivå som Anthropics modell Mythos.

gizmodo.com

Samhälle,

AI,

Kimi K3,

Bytedance,

AISI,

GitHub,

Mythos,

Kina,

AI-säkerhet

38°0Ett föredrag om incidenten mellan OpenAI och Hugging FaceFrån Black Hat USA 202628°0Anthropic råkade smita under säkerhetstesterWhoopsie!

37.0°

0Frode Wikesjö

idag kl 15:00

Per månad

39 kr

Betala löpande per månad. Ingen bindningstid.

Starta prenumeration

Per år

299 kr

Enklast och billigast, bara 25 kronor i månaden. Betala löpande per år. Ingen bindningstid.

Prova 14 dagar gratis innan du bestämmer dig.

Starta gratis provperiod

Engångsköp

349 kr

Slipp återkommande betalningar, betala ett år i taget. Betala med kort eller Swish.

Köp utan prenumeration

Läs hela artikeln hos Feber →

Metodai Nyheter är en nyhetsaggregator. Hela artikeln finns hos källan. Upphovsrätten tillhör respektive medium.