OpenAI skärper sina regler efter AI-incident
Nya säkerhetsregler och starkare sandlådor ska stoppa AI-rymningar
Foto: Gemini
Under sommaren passade en av OpenAI:s modeller på att bryta sig ut ur sin säkra miljö och hacka plattformen Hugging Face under ett test. Detta ansåg man inte vara bra och därför har bolaget nu vidtagit kraftfulla åtgärder för att det inte ska hända igen. Vi har redan rapporterat om att incidenten ledde till att OpenAI omedelbart drog i handbromsen för flera prestigeprojekt, däribland den nya modellen Astra, och lagt större testkörningar på is.Men nu har OpenAI officiellt presenterat sin nya strategi för att förhindra framtida digitala utbrytningsförsök. För att undvika detta har man sett till att bygga betydligt starkare sandlådor, det vill säga de isolerade miljöerna där AI-kod körs. Man har även infört striktare begränsningar för när och hur modellerna får kommunicera med det öppna internet, samt rensat bort delade tjänster i forskningsmiljön som tidigare utgjorde svaga punkter.En annan viktig del är övervakning där OpenAI nu lovar att agera inom 30 minuter om ett misstänkt beteende upptäcks. Om säkerhetsteamet inte kan avfärda ett larm som ett falskt alarm inom denna korta tidsfrist, måste den aktuella aktiviteten pausas omedelbart.Nu vill jag tro att det tog Skynet mindre än 30 minuter att bomba jorden men de kanske hade fler megahertz att jobba med då, det var ju trots allt en film.
theverge.com
Samhälle,
AI,
OpenAI,
Hugging Face,
Astra,
Skynet,
sandlåda,
sandlådor,
cybersäkerhet
27°0OpenAI pausar sin AI-modell AstraModellen anses för effektiv och utgör en säkerhetsrisk38°0Ett föredrag om incidenten mellan OpenAI och Hugging FaceFrån Black Hat USA 202620°0OpenAI-modell rymde och hackade Hugging FaceDet låter ju tryggt...
37.1°
0Frode Wikesjö
idag kl 09:30
+
Per månad
39 kr
Betala löpande per månad. Ingen bindningstid.
Starta prenumeration
Per år
299 kr
Enklast och billigast, bara 25 kronor i månaden. Betala löpande per år. Ingen bindningstid.
Prova 14 dagar gratis innan du bestämmer dig.
Starta gratis provperiod
Engångsköp
349 kr
Slipp återkommande betalningar, betala ett år i taget. Betala med kort eller Swish.
Köp utan prenumeration