Open AI börjar vattenstämpla texter skrivna av Chat GPT
Open AI börjar märka text från Chat GPT med en osynlig vattenstämpel för att göra AI-genererat innehåll lättare att upptäcka.
Men märkningen är inte helt tillförlitlig och kan ge en falsk trygghet, menar AI-forskaren Peter Funk.
– Det kan också slå väldigt fel, säger han.
Stegvis under de kommande veckorna inför Open AI en osynlig vattenstämpel för texter som bearbetats eller genererats med hjälp av Chat GPT i EU-länderna, meddelar företaget i ett blogginlägg.
Inledningsvis kan endast forskare ansöka om att testa igenkänningen för att leta efter vattenstämplar. Men i teorin kan det i framtiden användas för att ta reda på om till exempel en universitetsuppgift är AI-genererad.
Vattenstämpling innebär att man lägger på ett statistiskt mönster i ordvalen, för att sedan jämföra det med texten.
– Om texten stämmer överens med det mönster man förväntat sig är det en indikation på att texten har genererats eller bearbetats av Chat GPT, säger Peter Funk, AI-forskare vid Mälardalens universitet.
Ingen personlig information eller uppgifter om vem som skrivit texten framkommer.
Transparenskrav från EU
Anledningen är att transparenskraven i EU:s AI-förordning trädde i kraft i augusti. Det innebär att AI-genererat innehåll ska kunna identifieras. En liknande osynlig vattenstämpel finns redan för till exempel bilder.
– EU har bestämt att det ska vara transparens. Om texten inte är skriven av en person ska man kunna ta reda på att den är bearbetad eller genererad av AI, säger Peter Funk.
Inte fläckfri – kan skapa falsk trygghet
Vattenstämpeln är svår att upptäcka i kortare texter. Om man dessutom ändrar lite i texten blir den svårare att upptäcka, enligt Open AI.
Den fungerar bättre i längre texter – och enligt Open AI blir det fel i endast ett procent av testfallen.
– Om man statistiskt sett tittar på tusen studenter och deras inlämningsuppgifter kan omkring tio av dem att bli ”anklagade” för att de har genererat texten med AI, även om de har skrivit den själva. Därför bör en sådan detektion inte ensam användas som bevis för att en student använt AI, säger Peter Funk.
Eftersom träffsäkerheten inte är hundraprocentig kan en falsk trygghet skapas, menar Peter Funk.
– Att en AI-märkning saknas betyder inte att texten inte är AI-genererad. Det kan ge allmänheten en falsk känsla av trygghet, vilket är ett problem.
Hör AI-forskaren Peter Funk berätta mer i videon ovan.
Så arbetar vi
SVT:s nyheter ska stå för saklighet och opartiskhet. Det vi publicerar ska vara sant och relevant. Vid akuta nyhetslägen kan det vara svårt att få alla fakta bekräftade, då ska vi berätta vad vi vet – och inte vet. Läs mer om hur vi arbetar.