Feber · 2 tim sedan Vetenskap

OpenAI pausar sin AI-modell Astra

Modellen anses för effektiv och utgör en säkerhetsrisk OpenAI har valt att lägga sin nya AI-modell Astra på is för att den helt enkelt visat sig vara nästan för effektiv. Enligt AI-jätten så är modellen så pass kraftfull att den på egen hand kan hitta säkerhetshål och genomföra avancerade it-attacker vilket har gjort att den bedöms utgöra en potentiell fara, vilket ju inte alltid är önskvärt. Så för att minimera riskerna kommer bolaget nu att samarbeta med både myndigheter och säkerhetsexperter för att grundligt testa vad Astra faktiskt är kapabel till innan projektet går vidare. För att hantera situationen har bolaget nu infört strikta restriktioner och arbetet med Astra ska nu ske i helt isolerade testmiljöer med begränsad åtkomst till nätverk samt verktyg. Man har även satt upp system som övervakar modellens tankegångar i realtid för att kunna avbryta processen om den börjar planera n

Modellen anses för effektiv och utgör en säkerhetsrisk

Foto: Levart_Photographer / Unsplash

OpenAI har valt att lägga sin nya AI-modell Astra på is för att den helt enkelt visat sig vara nästan för effektiv. Enligt AI-jätten så är modellen så pass kraftfull att den på egen hand kan hitta säkerhetshål och genomföra avancerade it-attacker vilket har gjort att den bedöms utgöra en potentiell fara, vilket ju inte alltid är önskvärt.Så för att minimera riskerna kommer bolaget nu att samarbeta med både myndigheter och säkerhetsexperter för att grundligt testa vad Astra faktiskt är kapabel till innan projektet går vidare. För att hantera situationen har bolaget nu infört strikta restriktioner och arbetet med Astra ska nu ske i helt isolerade testmiljöer med begränsad åtkomst till nätverk samt verktyg. Man har även satt upp system som övervakar modellens tankegångar i realtid för att kunna avbryta processen om den börjar planera något riskfyllt.I sitt blogginlägg så klargör OpenAI också att Astra inte hade något att göra med det intrånget hos AI-plattformen Hugging Face och säger att det var en annan modell.

openai.com

Internet,

OpenAI,

Astra,

Hugging Face,

it-attacker,

säkerhetshål,

36.7°

0Frode Wikesjö

idag kl 13:00

Per månad

39 kr

Betala löpande per månad. Ingen bindningstid.

Starta prenumeration

Per år

299 kr

Enklast och billigast, bara 25 kronor i månaden. Betala löpande per år. Ingen bindningstid.

Prova 14 dagar gratis innan du bestämmer dig.

Starta gratis provperiod

Engångsköp

349 kr

Slipp återkommande betalningar, betala ett år i taget. Betala med kort eller Swish.

Köp utan prenumeration

Läs hela artikeln hos Feber →

Metodai Nyheter är en nyhetsaggregator. Hela artikeln finns hos källan. Upphovsrätten tillhör respektive medium.