Feber · 2 tim sedan Vetenskap

Hugging Face kritiseras för bristande nakenfilter

Plattformen saknar skydd mot oönskade nakenbilder Den populära AI-plattformen Hugging Face, som huserar tusentals AI-modeller, har nu åkt på kritik då en ny rapport visar att sajten saknar tillräckliga skyddsmekanismer mot skapandet av nakenbilder av kvinnor och barn utan deras samtycke. AI-tjänster som ChatGPT och Gemini har infört strikta filter för att stoppa skapandet av sexuellt material. Men läget är annorlunda på Hugging Face. Enligt en undersökning från den ideella organisationen AI Forensics kan sju av de nio mest populära bildredigeringsmodellerna på sajten användas för att generera nakenbilder med hjälp av mycket enkla promptar. För att undersöka omfattningen av problemet skapade forskarna en testsida på plattformen. Under loppet av bara en vecka tog de emot över tusen förfrågningar från användare. 73 procent av alla dessa önskemål var av sexuell karaktär och i de flesta fall

Ny rapport avslöjar att plattformen saknar skydd mot oönskade nakenbilder

Foto: AI-genererad bild / Gemini

Den populära AI-plattformen Hugging Face, som huserar tusentals AI-modeller, har nu åkt på kritik då en ny rapport visar att sajten saknar tillräckliga skyddsmekanismer mot skapandet av nakenbilder av kvinnor och barn utan deras samtycke.AI-tjänster som ChatGPT och Gemini har infört strikta filter för att stoppa skapandet av sexuellt material. Men läget är annorlunda på Hugging Face. Enligt en undersökning från den ideella organisationen AI Forensics kan sju av de nio mest populära bildredigeringsmodellerna på sajten användas för att generera nakenbilder med hjälp av mycket enkla promptar.För att undersöka omfattningen av problemet skapade forskarna en testsida på plattformen. Under loppet av bara en vecka tog de emot över tusen förfrågningar från användare. 73 procent av alla dessa önskemål var av sexuell karaktär och i de flesta fall handlade det om att försöka klä av personer på bilder där 95 procent av offren var kvinnor, men även barn förekom i nästan 7 procent.Trots att Hugging Face har användarvillkor som förbjuder skadligt innehåll och nakenbilder på minderåriga, menar forskarna att kontrollen i praktiken är obefintlig på systemnivå. I dag ligger ansvaret helt på de enskilda utvecklarna att bygga in säkerhetsspärrar, något som sällan görs.AI Forensics kräver nu att Hugging Face tar ett större ansvar genom att införa automatiska filter som förhindrar detta. De föreslår bland annat verktyg som både kan skanna vad användare skriver för instruktioner och granska de bilder som AI-modellerna faktiskt skapar, för att förhindra att plattformen fortsätter vara ett verktyg för digitala övergrepp.

aiforensics.org

Samhälle,

AI,

Hugging Face,

AI Forensics,

ChatGPT,

Gemini,

AI-modeller

Via

theverge.com

37.0°

0Frode Wikesjö

idag kl 15:00

Per månad

39 kr

Betala löpande per månad. Ingen bindningstid.

Starta prenumeration

Per år

299 kr

Enklast och billigast, bara 25 kronor i månaden. Betala löpande per år. Ingen bindningstid.

Prova 14 dagar gratis innan du bestämmer dig.

Starta gratis provperiod

Engångsköp

349 kr

Slipp återkommande betalningar, betala ett år i taget. Betala med kort eller Swish.

Köp utan prenumeration

Läs hela artikeln hos Feber →

Metodai Nyheter är en nyhetsaggregator. Hela artikeln finns hos källan. Upphovsrätten tillhör respektive medium.