Open AI har presenterat en ny säkerhetsteknik, Private Safety Processing , som ska göra det möjligt att upptäcka missbruk av företagets mest avancerade AI-modeller, utan att samtidigt behöva lagra kundernas konversationer. Systemet ska automatiskt kunna analysera mönster i användningen. Exempelvis kan det märka om någon delar upp frågor om hur skadlig kod kan skapas mellan flera konversationer för att försöka undvika upptäckt. Om systemet upptäcker misstänkt aktivitet får Open AI istället en begränsad signal om vilken typ av missbruk det kan handla om. Open AI kan därefter kontakta kunden för mer information. Kunden bestämmer då själv om ytterligare data ska delas med Open AI. Private Safety Processing testas nu av ett begränsat antal kunder och kommer att börja rullas ut brett i september.
Open AI har presenterat en ny säkerhetsteknik, Private Safety Processing, som ska göra det möjligt att upptäcka missbruk av företagets mest avancerade AI-modeller, utan att samtidigt behöva lagra kundernas konversationer.
Systemet ska automatiskt kunna analysera mönster i användningen. Exempelvis kan det märka om någon delar upp frågor om hur skadlig kod kan skapas mellan flera konversationer för att försöka undvika upptäckt.
Om systemet upptäcker misstänkt aktivitet får Open AI istället en begränsad signal om vilken typ av missbruk det kan handla om. Open AI kan därefter kontakta kunden för mer information. Kunden bestämmer då själv om ytterligare data ska delas med Open AI.
Private Safety Processing testas nu av ett begränsat antal kunder och kommer att börja rullas ut brett i september.
Metodai Nyheter är en nyhetsaggregator. Hela artikeln finns hos källan. Upphovsrätten tillhör respektive medium.
