Roditelji tinejdžera koji koriste ChatGPT uskoro će moći da dobiju obavještenje ako platforma smatra da je njihovo dijete u nevolji.
To je jedna od novih roditeljskih kontrola koje je najavio proizvođač čet-bota, OpenAI.O bezbjednosti ove platforme za mlade korisnike govorilo se krajem avgusta kada je par u Kaliforniji tužio OpenAI zbog smrti njihovog 16-godišnjeg sina, tvrdeći da ga je ChatGPT podstakao da sebi oduzme život.
OpenAI je saopštio da će u narednom mjesecu uvesti „pojačanu zaštitu za tinejdžere”.
Kada se prošle nedjelje pojavila vijest o tužbi, OpenAI je objavio napomenu na veb stranici u kojoj piše da je ChatGPT obučen da usmjeri ljude da potraže stručnu pomoć kada su u nevolji.
Kompanija je, međutim, priznala da je „bilo trenutaka kada se sistemi nijesu ponašali kako je predviđeno u osjetljivim situacijama”. Sada je objavljeno još jedno ažuriranje koje će roditeljima omogućiti da: povežu njihov nalog sa djetetovim, upravljaju funkcijama koje treba onemogućiti (kao što su memorija i istorija ćaskanja), dobijaju obavještenja kada sistem otkrije da je dijete u nevolji.
Oni sarađuju sa grupom stručnjaka za razvoj mladih, brigu o mentalnom zdravlju i „interakciju između čovjeka i računara” kako bi pomogli u oblikovanju „vizije zasnovane na dokazima o tome kako vještačka inteligencija može podržati dobrobit ljudi i pomoći im da napreduju”.
Korisnici ChatGPT-a moraju imati najmanje 13 godina, a ako su mlađi od 18 godina, moraju imati dozvolu roditelja da ga koriste.
Tužba koju su u Kaliforniji podnijeli Met i Marija Rejn, roditelji 16-godišnjeg Adama Rejna, bila je prva pravna akcija u kojoj se OpenAI optužuje za ubistvo.
Porodica je priložila zapise razgovora između Adama i ChatGPT-a koji pokazuju da on objašnjava da ima samoubilačke misli.
Tvrde da je program potvrdio njegove „najštetnije i najsamodestruktivnije misli”, a optužuju OpenAI za nemar i ubistvo.
Velike tehnološke kompanije i bezbjednost na mreži
Ova objava kompanije OpenAI je najnovija u nizu mjera vodećih svjetskih tehnoloških firmi da učine djecu bezbjednijom u onlajn okruženju.
Mnoge su uvedene kao rezultat novih zakona, kao što je Zakon o bezbjednosti na internetu u Velikoj Britaniji.
To je uključivalo uvođenje provjere starosti na Reditu, Iksu i pornografskim sajtovima.
Ranije ove nedjelje, kompanija Meta, koja upravlja Fejsbukom i Instagramom, objavila je da će uvesti dodatnu zaštitu za četbotove sa vještačkom inteligencijom kao što je blokiranje razgovora sa tinejdžerima o samoubistvu, samopovređivanju i poremećajima u ishrani.
Američki senator je pokrenuo istragu protiv tehnološkog giganta pošto su bilješke u procurelom internom dokumentu sugerisale da bi njihovi VI proizvodi mogli imati „senzualne” razgovore sa tinejdžerima.
Kompanija je opisala bilješke u dokumentu, koji je dobio Rojters, kao pogrešne i nedosljedne njihovoj politici koja zabranjuje sadržaj koji seksualizuje djecu.
Preporučeno
Video