Piše: Noam Šiber za ,,Njujork tajms“; prevod za ,,Dan“: Darinka Jovanović
Tokom prethodnih godinu ili dvije, kompanije su počele da koriste takozvane agente vještačke inteligencije kao stvarne ,,zaposlene” i uključili su ih čak i u svoje organizacione šeme.
Ema Vajls, profesorica na Univerzitetu u Bostonu koja izučava kako AI utiče na radnike, suočila se s ovim fenomenom u oktobru, na konferenciji na kojoj su dva zaposlena u HR službi kazala da je ophođenje prema AI agentima kao prema stvarnim zaposlenima način da se poveća produktivnost i da se firme dovedu na vrh inovativnosti.
Ali kada je Vajls sa tri saradnika iz Bostonske konsultantske grupe istražila malo dublje, otkrili su jedan problem. U eksperimentu, koji je obuhvatio desetine kompanija sa AI zaposlenima, istraživači su utvrdili da menadžeri manje provjeravaju dokumenta kada im kažu da ih je sačinio AI. Menadžerima bi, onda, promakle greške, koje su drugi menadžeri uočili nakon što im je rečeno da provjeravaju posao koji je odradio čovjek.
Vajls smatra da menadžeri nisu ocijenili da je provjera grešaka koje prave AI zaposleni njihova odgovornost. Ako nešto pođe naopako, to se može odbaciti kao propust tehničke službe ili onih od kojih je potekla ideja o AI radnicima. ,,Ali to nije tvoj problem”, rekla je, zamišljajući šta bi ona rekla na poziciji menadžera.
Otkad se pojavila vještačka inteligencija, mnoge kompanije su osvijestile falinke tehnologije i ponekad preduzele neke mjere da ih nadoknade. Oni znaju da AI modeli mogu biti pristrasni u odnosu na određene grupe ljudi, među kojima su i ljudi crne ili žute rase. Znaju i da četbotovi mogu pružiti logične, ali netačne odgovore na upite. Znaju i to da botovi ponekad objelodane informacije koje su morale biti povjerljive.
Međutim, dok kompanije jure da uvedu AI u svoje svakodnevne aktivnosti, istraživači otkrivaju suptilnije nedostatke. U suštini, ovi nedostaci se mogu ispraviti. Na primjer, kompanije mogu u potpunosti prebaciti odgovornost na menadžere za greške AI zaposlenih.
Ipak, praksa pokazuje da većina korisnika u kompanijama uopšte ne zna za ove probleme, što otvara mogućnost da bi obećanja o povećanoj produktivnosti AI i velikim uštedama troškova mogla biti dovedena u pitanje.
Čak i istraživači koji izučavaju AI možda znaju samo za djelić problema koje tehnologija sa sobom nosi. “Postoji pregršt još nepoznanica”, rekla je Vajlsova.
Jedna dobro dokumentovana, ali nedovoljno prepoznata mana modela vještačke inteligencije jeste to što oni imaju tendenciju da daju prednost sadržaju koji je proizvela vještačka inteligencija. Studija iz 2025. godine, objavljena u časopisu Proceedings of the National Academy of Sciences, pokazala je da je nekoliko velikih jezičkih modela imalo loše mišljenje o tekstovima koje su napisali ljudi, stvarajući “potencijalno značajan oblik direktne `antiljudske` pristrasnosti”.
Međutim, mnoge kompanije nisu znale za ovaj problem ili nisu bile u stanju da zamisle kakav bi to haos moglo napraviti po njihove aktivnosti. Kada je tim istraživača sve to iznio u narednoj publikaciji, objavivši da AI modeli koje kompanije koriste za procjenu radnih biografija znaju da favorizuju one koje su sačinjenje uz pomoć AI u odnosu na one koje je u potpunosti napravio čovjek, to je privuklo pažnju nekih regrutera.
Džejn Ji Đijang, profesorka operacija na Državnom univerzitetu Ohajo i jedna od autorki tog drugog rada, rekla je da su ona i njeni koautori bili spremni da pomognu kada su se regruterske firme raspitivale o tome kako da unaprijede svoje procese.
Ali, zapazili su da ovo sigurno nije bio jedini problem koji je slučajno nastao u kompanijama, koje su pojurile da uvedu AI. “Ljudi tako olako koriste LLM i pritom uopšte ne misle mnogo o mogućoj pristrasnosti”, rekla je imajući na umu velike jezičke modele poput AI četbotova.
Na primjer, neke kompanije sada koriste AI da im pomogne da odrede cijene proizvoda ili gdje da otvore novu radnju. Osloniti se na tehnologiju u te svrhe može, pak, dovesti do problema.
Kada su prepušteni sami sebi, ljudi često sarađuju i teže ishodima u kojima obje strane dobijaju. Međutim, kada AI modeli procjenjuju situaciju, oni imaju običaj da usvoje hladniji, proračunatiji i “racionalniji” način razmišljanja koji proizlazi iz osnovne teorije igara. Na primjer, mogu navesti kompaniju da agresivno snizi cijene kako bi potisnula konkurenta, iako to nosi rizik da izazove ozbiljan cjenovni rat.
U principu, programeri i korisnici vještačke inteligencije mogu da isprave ove pristrasnosti. Đijang i Sju su, na primjer, otkrili da su mogli da smanje antiljudsku pristrasnost jednostavnim uputstvom modelima da se fokusiraju na kvalitet pisanog materijala koji procjenjuju i da izbjegavaju razmatranje autora.
Međutim, istraživači vještačke inteligencije ne mogu da isprave pristrasnosti kojih nijesu svjesni, a nekoliko naučnika je navelo da bi uticaj tih neotkrivenih pristrasnosti mogao da raste. Jedan od načina za to je ako se budući modeli budu obučavali na podacima koje su proizveli današnji modeli, bez dovoljno opreza, stvarajući sistem u kom se nedostaci ponavljaju i umnožavaju.
U tom slučaju, “sklonost ka učvršćivanju postojećih perspektiva i ponašanja vjerovatno će se nastaviti”, rekao je Šejn Longpre, istraživač vještačke inteligencije i osnivač Inicijative za provjeru porijekla podataka, grupe koja prati infrastrukturu vještačke inteligencije.
A onda postoje i zamke koje ne nastaju toliko iz same vještačke inteligencije, već iz načina na koji je ljudi koriste.
Naučnici koji se oslanjaju na vještačku inteligenciju u svakoj fazi istraživačkog procesa, pitajući je koja pitanja vrijedi proučavati, tražeći savjete kako da na njih odgovore, koristeći je za analizu podataka i oslanjajući se na nju pri pisanju rezultata, mogu nenamjerno suziti opseg svog rada.
,,To ne moramo nužno da primjetimo na individualnom nivou”, rekla je Sesili Štenbuh Traberg, psiholog sa Kopenhaške poslovne škole i autorka nedavnog rada na tu temu. ,,Razgovaraš sa četbotom, on ti pomaže da dođeš do ideja, čini ti se da zvuči odlično. Ali na kolektivnom nivou, sve izgleda prilično slično. Svi zvuče isto”.
Preporučeno
Video