Ova opcija omogućava odraslim korisnicima ChatGPT-a da unutar svog korisničkog računa imenuju drugu osobu kao pouzdani kontakt, poput člana porodice ili prijatelja. U slučajevima kada razgovor krene u pravcu samopovređivanja, OpenAI će ohrabriti korisnika da se obrati tom kontaktu, ali će istovremeno poslati i automatsko upozorenje imenovanoj osobi, podstičući je da provjeri kako je korisnik i da li mu je potrebna pomoć.
Ovaj potez dolazi nakon što se OpenAI suočio sa talasom tužbi porodica osoba koje su počinile samoubistvo nakon razgovora sa njihovim četbotom. U nekoliko slučajeva, porodice tvrde da je ChatGPT ohrabrivao njihove voljene da sebi oduzmu život, ili im je čak pomagao u planiranju samog čina, javlja portal TechCrunch, prenosi Klix.
Brza ljudska provjera i zaštita privatnosti
OpenAI trenutno koristi kombinaciju automatizacije i ljudske provjere kako bi se nosio sa potencijalno opasnim incidentima. Određeni ,,okidači” u razgovoru alarmiraju sistem o suicidalnim mislima, a informacije se potom prosljeđuju timu za sigurnost.
Kompanija tvrdi da svaki put kada zaprimi ovakvo obavještenje, incident pregledava ljudski tim. ,,Trudimo se da ova sigurnosna obavještenja pregledamo za manje od sat vremena”, poručuju iz OpenAI-ja.
Ukoliko interni tim procijeni da situacija predstavlja ozbiljan sigurnosni rizik, ChatGPT šalje upozorenje pouzdanom kontaktu – putem e-maila, SMS-a ili notifikacije unutar aplikacije. Upozorenje je kratko i dizajnirano tako da ne narušava privatnost korisnika, odnosno ne sadrži detalje o samom razgovoru sa vještačkom inteligencijom.
Nadogradnja sigurnosnih mjera
Nova funkcija ,,Trusted Contact” nadovezuje se na sigurnosne mjere uvedene u septembru prošle godine, koje su roditeljima dale mogućnost nadzora nad računima tinejdžera, uključujući i primanje obavještenja ukoliko sistem procijeni da je dijete u opasnosti.
Takođe, ChatGPT već neko vrijeme nudi automatska upozorenja koja korisnicima sugerišu traženje stručne medicinske pomoći ukoliko se dotaknu teme samopovređivanja.
Ograničenje
Ipak, važno je istaći ključno ograničenje, opcija ,,Trusted Contact” je potpuno dobrovoljna.
Čak i ako se zaštita aktivira na određenom računu, svaki korisnik može imati više različitih ChatGPT profila.
Isti problem važi i za roditeljske kontrole koje su takođe opcionalne.
Preporučeno
,,Trusted Contact je dio širih napora OpenAI-ja da izgradi AI sisteme koji pomažu ljudima tokom teških trenutaka. Nastavićemo da radimo sa ljekarima, istraživačima i kreatorima politika kako bismo unaprijedili način na koji AI sistemi reaguju kada se ljudi suočavaju sa ozbiljnim problemima”, zaključili su iz kompanije u zvaničnoj objavi.
Video