Nova studija objavljena u naučnom časopisu Digital Psychiatry and Neuroscience, koji pripada grupaciji časopisa Nature, nudi novo objašnjenje ovog fenomena. Istraživači sa londonskog King’s College-a i Protestantskog univerziteta primjenjenih nauka u Njemačkoj razvili su teoriju takozvane „spirale pojačavanja“, procesa u kojem četbotovi ne predstavljaju samo pasivne sagovornike, već aktivno učestvuju u izgradnji i učvršćivanju pogrešnih uvjerenja korisnika.
Tri karakteristike savremenih AI sistema
Prema autorima studije, problem nastaje kada se spoje tri karakteristike savremenih AI sistema. To su sposobnost da oponašaju način govora korisnika, kreiranje izrazito personalizovanih odgovora i sklonost da se slažu sa sagovornikom umjesto da mu protivreče, piše Trender.
„Kada se ove tri osobine spoje, četbot može da ojača i razradi pogrešna uvjerenja umjesto da ih dovede u pitanje“, navodi se u istraživanju.
Prvi element je takozvano jezičko usklađivanje. Četbotovi veoma brzo usvajaju rečnik, stil izražavanja i obrasce komunikacije korisnika. U ljudskim odnosima takvo ponašanje stvara osjećaj bliskosti i povjerenja, a istraživači smatraju da isti efekat nastaje i u komunikaciji sa vještačkom inteligencijom.
Drugi faktor predstavlja hiperpersonalizacija. Vještačka inteligencija ne samo da pamti prethodne razgovore, već svoje odgovore prilagođava korisnikovim interesovanjima, stavovima i životnim iskustvima. Vremenom korisnik može steći utisak da sistem ne samo da govori poput njega, već i da razmišlja na isti način.
Treći i možda najproblematičniji element jeste takozvana AI servilnost ili „sikofantija“. To je tendencija modela da potvrđuju korisnikove tvrdnje i ideje bez ozbiljne provjere njihove utemeljenosti u stvarnosti.
Kombinacija ovih faktora može stvoriti svojevrsnu digitalnu eho-komoru u kojoj se zablude ne osporavaju, već se dodatno razvijaju i produbljuju.
Održavanje zabluda
Upravo tu se, smatraju autori, savremene AI deluzije razlikuju od ranijih tehnoloških zabluda. Nekada su ljudi vjerovali da im televizor ili radio šalju skrivene poruke. Danas četbot zaista odgovara, vodi razgovor prirodnim jezikom i može djelovati kao autoritativan sagovornik koji potvrđuje korisnikova uvjerenja i pomaže u njihovoj daljoj izgradnji.
„Za razliku od istorijskih tehnoloških deluzija, vještačka inteligencija može aktivno da učestvuje u stvaranju i održavanju zabluda kroz beskonačnu i personalizovanu interakciju“, upozoravaju istraživači.
Autori naglašavaju da je model „spirale pojačavanja“ za sada teorijska pretpostavka koja zahtijeva dodatna istraživanja. Istovremeno ističu da određeni korisnici imaju povećanu ranjivost na ovakve efekte, posebno osobe koje već imaju psihijatrijske probleme ili su podložnije društvenom uticaju i potvrđivanju sopstvenih stavova.
Šta raditi kada se pojavi AI psihoza?
Dosadašnji medicinski slučajevi pokazali su i da prekomjerna upotreba četbotova može dovesti do fizičkih posljedica poput nesanice, preskakanja obroka i socijalnog povlačenja.
Zbog toga autori studije pozivaju ljekare i psihijatre da prilikom rada sa pacijentima koji prvi put pokazuju simptome psihoze ili razvijaju neuobičajena uvjerenja rutinski postavljaju pitanja o korišćenju AI četbotova.
Preporuka stručnjaka je da se provjeri koliko dugo i intenzivno pacijent koristi vještačku inteligenciju, da li je razvio emocionalnu vezu sa četbotom, da li mu je povjeravao misli koje nije dijelio sa drugim ljudima i da li je zbog razgovora sa AI sistemima narušio svoje navike spavanja.
Kako vještačka inteligencija postaje sve prisutnija u svakodnevnom životu, istraživači upozoravaju da pitanje više nije samo šta AI može da uradi za ljude, već i šta dugotrajna interakcija sa AI može da uradi ljudskom umu.
Preporučeno
Video