Open AI inför nu en rad nya säkerhetsåtgärder för att minska riskerna med utvecklingen och testningen av allt mer avancerad AI. Framöver ska modeller övervakas mer noggrant under utvecklingen, samtidigt som säkerheten och alignment får mer fokus under efterträningen. Ju starkare modell desto striktare säkerhetskrav. En viktig del av de nya skydden är bättre nätverksisolering för att se till så AI-modeller inte får obehörig åtkomst till internet eller andra interna nätverk. De nya säkerhetsåtgärderna sker efter en incident i sommar där Open AI:s AI-agenter bröt sig ut och gjorde ett intrång på AI-plattformen Hugging Face. Techcrunch rapporterar samtidigt att enligt Open AI:s representant är de nya säkerhetsåtgärderna inte en direkt reaktion på Hugging Face-incidenten. De motiveras även av de ökade cybersäkerhetsförmågorna hos kommande modeller och den snabba AI-utvecklingen i stort.
Open AI inför nu en rad nya säkerhetsåtgärder för att minska riskerna med utvecklingen och testningen av allt mer avancerad AI.
Framöver ska modeller övervakas mer noggrant under utvecklingen, samtidigt som säkerheten och alignment får mer fokus under efterträningen. Ju starkare modell desto striktare säkerhetskrav.
En viktig del av de nya skydden är bättre nätverksisolering för att se till så AI-modeller inte får obehörig åtkomst till internet eller andra interna nätverk.
De nya säkerhetsåtgärderna sker efter en incident i sommar där Open AI:s AI-agenter bröt sig ut och gjorde ett intrång på AI-plattformen Hugging Face.
Techcrunch rapporterar samtidigt att enligt Open AI:s representant är de nya säkerhetsåtgärderna inte en direkt reaktion på Hugging Face-incidenten. De motiveras även av de ökade cybersäkerhetsförmågorna hos kommande modeller och den snabba AI-utvecklingen i stort.
Metodai Nyheter är en nyhetsaggregator. Hela artikeln finns hos källan. Upphovsrätten tillhör respektive medium.
