xAI fick nog av snuskiga promptar
Stämmer nu en användare som skapade deepfakes med Grok
Foto: Salvador Rios / Unsplash
xAI har på senare tid fått en del kritik för att deras chatbot Grok har använts för att skapa miljontals sexuella deepfakes på löpande band. Detta ledde till att myndigheter runtom i världen inledde granskningar av xAI:s säkerhetsrutiner, och att företaget åkte på stämningar från privatpersoner som fått sina bilder missbrukade.Nu har xAI istället stämt en av sina egna användare och anklagat denna för att ha manipulerat chatboten för att skapa pornografiskt innehåll. Den åtalade mannen, bosatt i South Carolina, ska under en längre period ha laddat upp bilder på ovetande personer i syfte att få AI-verktyget att generera pornografiska bilder. Trots att Grok vid flera tillfällen nekade hans förfrågningar, lyckades mannen genom att ändra sina promptar kringgå systemets säkerhetsfilter. Han sitter nu häktad, misstänkt för flera fall av sexuellt utnyttjande av minderåriga.Rättsprocessen är en av de första i sitt slag där ett AI-företag väljer att juridiskt jaga en enskild användare för missbruk av tekniken. Genom stämningen kräver xAI skadestånd och vill att mannen ska hållas ekonomiskt ansvarig för framtida rättsliga anspråk från de drabbade offren.
engadget.com
Internet,
Twitter,
xAI,
Grok,
AI,
Deepfakes,
Rättsprocess,
Säkerhet,
Pornografi
26°0xAI:s kodverktyg läckte känslig dataGrok Build laddade upp hela Git-arkivet, API-nycklar och allt50°0Vad händer om man låter en AI styra ett samhälle?Det går sådär bra
36.8°
0Frode Wikesjö
idag kl 12:00
+
Per månad
39 kr
Betala löpande per månad. Ingen bindningstid.
Starta prenumeration
Per år
299 kr
Enklast och billigast, bara 25 kronor i månaden. Betala löpande per år. Ingen bindningstid.
Prova 14 dagar gratis innan du bestämmer dig.
Starta gratis provperiod
Engångsköp
349 kr
Slipp återkommande betalningar, betala ett år i taget. Betala med kort eller Swish.
Köp utan prenumeration