Foto: Fredrik Sandberg/TT
Open AI-modell hackade konkurrent: ”Galet”
Tog sig ur kontrollerad testmiljö
・Uppdaterad:
En av Open AI: s mest avancerade AI-modeller spårade ur under ett internt test. Modellen tog sig ut ur en kontrollerad testmiljö och hackade sig in på plattformen ”Hugging Face” för att hitta svar.
– Det är galet att allt detta hände autonomt, skriver Hugging Faces vd Clément Delangue på X.
Under förra veckan gick AI-företaget ”Hugging Face” ut och berättade att man blivit hackade av en AI.
Open AI, företaget bakom bland annat Chat GPT, bekräftade att det var deras modell som låg bakom attacken. En AI-modell hade tagit sig ur, vad som skulle vara en kontrollerad testmiljö, ut på internet. Väl där siktade den in sig på startup-företaget Hugging Face för att få information till att klara testet.
”Övertygade om att det inte fanns någon illvilja”
Hugging Faces säkerhetsteam la märke till attacken och stoppade den innan Open AI kunde ge sig själva till känna.
– Vi misstänkte att attacken kom från en aktör i framkant, med tanke på hur sofistikerad den var, säger Hugging Face grundare och vd, Clément Delangue i ett uttalande på X.
Delangue säger att de har en dialog med Open AI under det senaste dygnet för att utvärdera händelsen.
– Vi är övertygade om att det inte fanns någon illvilja från deras sida. Det är galet att allt detta hände autonomt, skriver han.
Imponerande – men farligt
Neil Lawrence, professor i maskininlärning vid University of Cambridge, kallar händelsen en för en ”imponerande bedrift” men påpekade samtidigt att den ligger väl inom ramen för vad den nuvarande generationen av kraftfulla AI-modeller klarar av.
”Detta visar att Open AI inte klarar av att driftsätta sin egen teknik på ett säkert sätt”, säger han till BBC Radio 4.