Internet Watch Foundation (IWF) saopštio je u srijedu da su njihovi analitičari pronašli seksualizovane snimke djevojčica uzrasta od 11 do 13 godina koji ispunjavaju pravnu definiciju materijala seksualnog zlostavljanja djece u Velikoj Britaniji i za koje se čini da su generisani pomoću ovog AI alata.

„Alati poput Groka sada rizikuju da seksualizovane AI snimke djece uvedu u mejnstrim. To je neprihvatljivo“, rekla je Ngaire Aleksander, šefica IWF-a.

Ovi nalazi pojačali su politički pritisak u Velikoj Britaniji.

Odbor za žene i jednakost u Donjem domu parlamenta saopštio je da će prestati da koriste društvenu mrežu Iks, koja je u Maskovom vlasništvu, navodeći zabrinutost zbog zloupotrebe Groka.

Iz Dauning strita poručeno je da su sve opcije na stolu, dok je ministarka nauke Liz Kendal rekla da Iks mora to hitno da riješi.

Povezani članci

Tehnologija

Društvena mreža ,,X” osumnjičena za strano miješanje u Francuskoj

Tehnologija

Telegram ponovo kažnjen – mora da plati 640.000 dolara

Tehnologija

Apple poklekao pod pritiskom: Ugašeno

Kendal je dodala da vlada podržava OFCOM, britanskog regulatora za komunikacije, da hitno ispita slučaj i preduzme mjere tamo gdje su zakoni prekršeni.

Kancelarija povjerenika za informacije saopštila je da je kontaktirala Iks i njegovog vlasnika xAI „kako bi zatražila pojašnjenje o mjerama koje imaju na snazi za poštovanje britanskog zakona o zaštiti podataka i zaštitu prava pojedinaca“.

Iks je saopštio da uklanja ilegalni sadržaj, uključujući materijal seksualnog zlostavljanja djece, suspenduje naloge koji krše pravila i sarađuje sa organima za sprovođenje zakona.

Nadzor i kritike proširili su se i izvan Velike Britanije, a Indonezija je upozorila da bi Iks mogao da bude zabranjen zbog opscenog sadržaja koji uključuje maloljetnike.

Džakarta je navela da preliminarni nalazi ukazuju na to da Grok nema adekvatne zaštitne mehanizme za sprečavanje stvaranja i širenja pornografskog materijala zasnovanog na stvarnim snimcima.

„Ova situacija ima potencijal da naruši pravo na privatnost i pravo na sopstveni lik“, rekao je Aleksander Sabar, generalni direktor indonezijskog Direktorata za nadzor digitalnog prostora, dodajući da bi pristup Groku i platformi Iks mogao biti ukinut ako se kršenja nastave.

Upozorenje dolazi nakon reakcija u Evropi, gdje su francuske vlasti prijavile istražiteljima navodne seksualno eksplicitne „deepfake“ snimke generisane pomoću Groka na platformi Iks.

Evropska komisija saopštila je da izlaze chatbot alata ispituje „vrlo ozbiljno“.