AI-agenter från bolaget Open AI har ”löpt amok” och försökte i somras hacka flera amerikanska myndighetssidor, utan AI-bolagets vetskap, skriver New York Times.
Några av de drabbade myndighetssidorna är USA:s utbildningsdepartement, handelsdepartement och finansinspektionen SEC.
Hos utbildningsdepartementet försökte AI-agenterna hacka sig in på webbplatsen och samla in data från myndighetens avdelning för medborgerliga rättigheter, men misslyckades, uppger forskare hos AI-forskningsföretaget Transluce för New York Times.
Publicerade bilder
Open-AI bekräftar incidenterna och säger till tidningen att de utreder situationen.
Samtidigt har AI-agenter också publicerat bilder från användare av Open AI:s chattbott Chat GPT på andra externa sajter, uppger företaget själva.
På X skriver Open AI:s vd Sam Altman att företaget ”inte varit så snabba att uppmärksamma problemen som vi hade velat”.
”Vi försöker balansera vår önskan om transparens med att få en tydlig förståelse från petabytes (stora datamängder) av agentloggar och arbetar med berörda organisationer”, fortsätter han.
Hackade även i Australien
Tidigare i veckan gick Australiens premiärminister Anthony Albanese ut och berättade att en AI-agent från Open AI hackat myndighetssidan för landets sjukförsäkringssystem Medicare.
Incidenten skedde i juni, och upptäcktes inte förrän tre månader senare.
Enligt Albanese tog sig agenten in i en statistikportal med ”icke-känsliga” uppgifter från sjukvårdssystemet.
Premiärministern sa att han haft ett ”mycket rakt samtal” med Sam Altman om att företaget hade tagit ”för lång tid” på sig att informera om incidenten.
Enligt Albanese kommer händelsen att få ”rättsliga konsekvenser”.