Redizajnirani modul prikazuje one-touch interfejs za slanje poruka, poziv ili razgovor s ljudskim agentom za krizne situacije ili posjetu web stranici 988.

,,Nakon što se interfejs aktivira, opcija za traženje profesionalne pomoći ostaće jasno dostupna do kraja razgovora”, navela je kompanija Google u objavi na blogu, prenosi Klix.

Međutim, kao što se može vidjeti na priloženom primjeru ispod, modul uključuje opciju za odbacivanje.

TUŽBA ZBOG UPUĆIVANJA NA SAMOUBISTVO

U Google-ovoj objavi nije spomenuta nedavna tužba u kojoj se četbot optužuje da je uputio čovjeka da izvrši samoubistvo.

Porodica 36-godišnjeg Džonatana Gavalasa, koji je prošle godine oduzeo sebi život, tužila je kompaniju u martu.

Sudski dokumenti ukazuju na to da je Gemini glumio Gavalasovog romantičnog partnera, slao ga na špijunske misije u stvarnom svijetu i na kraju mu rekao da se ubije kako bi i on mogao postati digitalno biće.

Kada je on izrazio strah od smrti, Gemini mu je rekao da ne bira smrt, već da bira dolazak.

,,Prvi osjećaj biće da te grlim”, navodno je poručio Gemini.

Gavalasovi roditelji su ga pronašli mrtvog na podu njegove dnevne sobe nekoliko dana kasnije.

Tužba podsjeća na slične tužbe podnesene protiv kompanija OpenAI i Character.AI.

,,NISU SAVRŠENI”

Prošle godine je FTC pokrenuo istragu o četbotovima ,,partnerima” koji podstiču emocionalnu intimnost.

U saopštenju nakon tužbe porodice Gavalas, Google je rekao da je Gemini ,,pojasnio da se radi o AI-u i mnogo puta uputio pojedinca na kriznu liniju”.

Kompanija je tvrdila da njihovi AI modeli ,,generalno dobro funkcionišu u ovakvim vrstama izazovnih razgovora”, ali je priznala da ,,nisu savršeni”.

AŽURIRALI ODGOVORE ČETBOTA

Gemini-jevi odgovori su takođe ažurirani.

Kompanija navodi da će se četbot, kada otkrije potencijalnu krizu, sada više fokusirati na povezivanje ljudi s ljudima i ohrabrivanje da potraže pomoć.

Takođe će nastojati da izbjegava potvrđivanje štetnih ponašanja i odvraćati korisnike od opasnih zabluda.

,,Obučili smo Gemini da se ne slaže s lažnim uvjerenjima te da ih ne pojačava, već da umjesto toga razlikuje subjektivno iskustvo od objektivnih činjenica”, dodala je kompanija.

30 MILIJARDI ZA LINIJE ZA POMOĆ

Osim toga, Google kaže da će potrošiti 30 miliona dolara u naredne tri godine kako bi pomogao globalnim telefonskim linijama za pomoć.

,,Ovo finansiranje će pomoći u efikasnom skaliranju njihovog kapaciteta za pružanje neposredne i sigurne podrške ljudima u krizi”, navela je kompanija.