Video
Tehnologija, nazvana ,,textGrain“, dodaje statistički signal u izbor riječi koje model koristi. Taj signal ljudima nije vidljiv, ali bi specijalizovani detektor kasnije mogao da utvrdi da je tekst generisao AI sistem.
TextGrain će najprije biti dostupan korisnicima OpenAI API-ja širom svijeta kao opcija koju je potrebno ručno uključiti. U Evropskoj uniji OpenAI planira da u narednim nedjeljama počne automatski da primenjuje ovaj sistem na tekstualne odgovore koje generišu ChatGPT i Codex, prenosi B92.
,,TEHNOLOGIJA NIJE NEPOGREŠIVA”
Kompanija istovremeno upozorava da tehnologija nije nepogrešiva.
Prema internim testovima, detektor je prepoznavao vodeni žig u oko 80 odsto tekstova dužine 200 tokena, dok je kod tekstova od 400 tokena uspješnost dostizala oko 95 odsto u određenim oblastima. Rezultati su znatno slabiji kod matematike i drugih sadržaja u kojima postoji manje slobode u izboru riječi.
NAKNADNO UREĐIVANJE TEKSTA
Problem predstavlja i naknadno uređivanje teksta. U jednom testu, zamjena samo 10 odsto reči sinonimima smanjila je uspješnost detekcije sa 92 na 66 odsto, dok je zamena četvrtine riječi spustila rezultat na svega 17 odsto.
OpenAI zato naglašava da vodeni žig ne može da pokaže koliki je bio ljudski doprinos nastanku teksta, niti utvrđuje autorstvo, vlasništvo ili zakonitost sadržaja. Takođe, ne povezuje tekst sa konkretnim korisnikom ili nalogom.
Kompanija planira da objavi i izvorni kod textGrain-a, kako bi istraživači i razvojna zajednica mogli da ga dodatno testiraju i unapređuju.
Preporučeno
