Sljedeće verzije popularnog četbota moći će da se ponašaju „sličnije ljudima, ali samo ako to korisnik želi, ne zato što želimo da povećamo upotrebu“, napisao je u objavi na platformi Iks u utorak, 16. oktobra.
Ovaj potez, koji podsjeća na uvođenje dva seksualno eksplicitna četbota na platformi Grok, mogao bi da pomogne OpenAI-ju da privuče više pretplatnika.Istovremeno, očekuje se da će pojačati pritisak na zakonodavce da uvedu stroža ograničenja za četbot sagovornike.
OpenAI nije odgovorio na pitanja BBC novinara nakon objave Sema Altmana.
Promjene koje je kompanija najavila uslijedile su nakon što su početkom godine roditelji američkog tinejdžera koji je izvršio samoubistvo podnijeli tužbu protiv OpenAI-ja.
Met i Marija Rejn, roditelji šesnaestogodišnjeg Adama Rejna, tužili su kompaniju, što je bio prvi takav slučaj.
Kalifornijski par kritikovao je roditeljske kontrole koje je kompanija uvela, navodno zbog podsticanja zdravijeg korišćenja četbota, i tvrdio da one nijesu bile dovoljno stroge.
Porodica je priložila i isečke razgovora Adama, koji je preminuo u aprilu, i ChatGPT-ja, u kojima dječak govori o sopstvenim suicidalnim mislima.
Altman je rekao da je OpenAI ranije učinio ChatGPT „prilično restriktivnim“ kako bi bio siguran da postupa pažljivo u vezi s pitanjima mentalnog zdravlja.
„Shvatamo da je to učinilo alat manje korisnim i zabavnim za mnoge korisnike koji nemaju problema s mentalnim zdravljem, ali s obzirom na ozbiljnost teme, željeli smo da postupimo ispravno“, objasnio je Altman.
Kompanija je, dodao je, uspjela da ublaži ozbiljne rizike po mentalno zdravlje i da sada posjeduje nove alate koji joj omogućavaju da „bezbjedno ublaži ograničenja u većini slučajeva“.
„U decembru, kako budemo u potpunosti uveli sistem provjere uzrasta i u skladu s principom ‘tretiraj odrasle korisnike kao odrasle’, dozvolićemo još više, pa i erotski sadržaj za verifikovane odrasle korisnike“, rekao je on.
Ova odluka zahtijeva strožu kontrolu na saveznom i državnom nivou, kažu kritičari vještačke inteligencije.
„Kako će oni osigurati da djeca nemaju pristup dijelovima ChatGPT-ja koji su namijenjeni odraslima i koji sadrže erotski sadržaj?“ kaže Dženi Kim, partnerka u advokatskoj firmi Boies Schiller Flexner.
„OpenAI, kao i većina velikih tehnoloških kompanija u ovoj oblasti, koristi ljude kao pokusne kuniće“, dodaje ona.
Kim učestvuje i u tužbi protiv Mete, u kojoj se tvrdi da algoritam Instagrama negativno utiče na mentalno zdravlje tinejdžera.
„Još uvijek ne znamo ni da li će njihov sistem provjere uzrasta funkcionisati“, dodala je.
OpenAI dopušta da nalozi registrovani kao maloljetnički generišu eksplicitni erotski sadržaj, pokazalo je istraživanje TechCruncha u aprilu.
Kompanija je tada rekla da radi na ispravci kako bi ograničila takav sadržaj.
Istraživanje koje je ovog mjeseca objavio neprofitni Centar za demokratiju i tehnologiju (CDT) pokazalo je da svaki peti učenik tvrdi da je on ili neko koga poznaje imao „romantičan odnos“ sa vještačkom inteligencijom.
U ponedjeljak je guverner Kalifornije Gevin Njusom potpisao zakon kojim se zabranjuje kompanijama da nude AI sagovornike djeci, osim ako ne mogu da garantuju da softver neće podsticati štetno ponašanje.
„Od presudne važnosti je da adolescenti nauče kako bezbjedno da komuniciraju sa AI sistemima“, rekao je Njusom.
Na saveznom nivou, američka Federalna komisija za trgovinu (FTC) pokrenula je istragu o tome kako AI četbotovi komuniciraju s djecom.
Američki senat uveo je prošlog mjeseca zakon koji bi AI četbotove klasifikovao kao proizvode, čime bi se korisnicima omogućilo da podnose tužbe za naknadu štete protiv njihovih proizvođača.
Altmanova izjava pojavila se u trenutku kada skeptici preispituju nagli rast vrijednosti AI kompanija.
Prihodi OpenAI-ja rastu, ali kompanija još nije profitabilna.
Najveće AI kompanije nalaze se u borbi za udio na tržištu, kaže Rob Lalka, profesor poslovnih studija na Univerzitetu Tulejn za BBC.
„Nijedna kompanija u istoriji nije doživjela takvu stopu usvajanja kao OpenAI sa ChatGPT-jem.
Preporučeno
„Morali su da nastave da guraju duž te eksponencijalne krive rasta, kako bi što više učvrstili dominaciju na tržištu“, objašnjava on.
Video