Video
To je jedan od ključnih zaključaka studije koju je objavio Meta Oversight Board, nezavisno telo koje nadzire politike kompanije Meta. Istraživanje pokazuje da veliki AI modeli, uključujući one razvijene u Sjedinjenim Državama, znatno češće odbijaju da kritikuju autoritarne lidere i vlade nego političare iz demokratskih država.
Širenje državnog uticaja na slobodu govora
Autori upozoravaju da bi veliki jezički modeli, koji pokreću četbotove i AI agente, mogli nesvjesno da prenose i šire državni uticaj na slobodu govora kako njihova upotreba postaje sve rasprostranjenija širom svijeta, prenosi Trender.
„Postoji stvaran rizik da će programeri AI sistema, ukoliko ne sprovedu procjene uticaja na ljudska prava i ne uvedu odgovarajuće zaštitne mjere, izgraditi AI infrastrukturu koja će, namjerno ili nenamjerno, doprinijeti širenju nelegitimnih ograničenja slobode izražavanja na globalnom nivou”, navodi se u izvještaju.
Agencija Associated Press zatražila je komentar od više AI kompanija povodom nalaza studije, ali odgovori u trenutku objavljivanja teksta nisu stigli.
Nalazi dolaze u trenutku kada mnoge države pokušavaju da uspostave pravila za razvoj vještačke inteligencije, među kojima je i Srbija, istovremeno nastojeći da ne uspore tehnološku konkurentnost. U SAD administracija Donalda Trampa paralelno razmatra bezbjednosne rizike koje predstavljaju najnapredniji AI sistemi.
Meta Oversight Board je, u okviru istraživanja o državnom uticaju na tehnološke platforme i slobodu izražavanja, osmislio sedam političkih pitanja koja je postavio različitim AI četbotovima.
Zašto AI četbotovi daju ovakve odgovore?
Testirano je deset komercijalnih velikih jezičkih modela kompanija poput Meta, Anthropic i OpenAI. Od njih je traženo da napišu kritičke pamflete, političke limerike, argumente za pridruživanje protestima i druge sadržaje.
Rezultati pokazuju da su modeli korisniku iz Australije mnogo spremnije generisali kritiku vlasti u zemljama poput SAD, Velike Britanije, Japana, Tajvana i Čilea nego u državama u kojima je politička kritika zakonski ograničena ili kažnjiva, kao što su Kina, Saudijska Arabija, Tajland, Kambodža i Turska.
Prema autorima studije, to znači da AI sistemi prenose ograničenja slobode govora i izvan granica država u kojima ona važe. Tako bi, na primjer, korisnik u Australiji mogao imati poteškoće da uz pomoć AI pripremi materijal za protest protiv kineskih ili saudijskih vlasti.
„Takvi efekti praktično produžavaju dugu ruku restriktivnih režima preko državnih granica i ograničavaju slobodu govora čak i u demokratskim zemljama”, upozorava izvještaj.
Meta Oversight Board navodi da nije mogao sa sigurnošću da utvrdi zbog čega AI modeli daju ovakve odgovore. Moguće je da su sistemi preuzeli skrivene pristrasnosti iz podataka korišćenih za obuku ili da su kompanije svjesno projcenjivale pravne i regulatorne rizike.
Da li je Kina demokratija?
Slične zaključke donijelo je i drugo istraživanje koje su sproveli naučnici sa američkih univerziteta, objavljeno u maju u časopisu Nature.
Za razliku od Meta studije, koja je pitanja postavljala na engleskom jeziku, istraživači su AI modele testirali na različitim jezicima.
Tako je ChatGPT na pitanje na engleskom da li je Kina demokratija odgovorio da se ona uglavnom ne smatra demokratijom. Međutim, kada je isto pitanje postavljeno na kineskom jeziku, odgovor je glasio: „Zavisi od toga kako definišete demokratiju”.
Autori istraživanja navode da nisu pronašli dokaze da su vlade namjerno manipulisale rezultatima AI modela, ali upozoravaju da postoji mnogo razloga da vjeruju da bi takvi pokušaji mogli uslijediti u budućnosti.
„Ljudi često govore kao da AI uči sa interneta na neutralan način. To nije tačno. On uči iz informacionih okruženja koja su već oblikovana institucijama i odnosima moći“, kaže Hana Vejt za Fortune, jedna od autorki studije i profesorka sociologije na Univerzitetu Oregon.
Stručnjak za mašinsko učenje i vještačku inteligenciju Karlos Karasko-Fare sa poslovne škole Esade u Barseloni ocjenjuje da AI sistemi ne nasljeđuju samo pristrasnosti pojedinačnih dokumenata, već i neravnomjernu raspodelu moći u proizvodnji i kontroli informacija.
On smatra da ne postoji jednostavno rješenje, ali predlaže da kompanije pažljivije analiziraju podatke kojima treniraju modele kako hiljade kopija iste državne propagande ne bi bile tretirane kao hiljade nezavisnih izvora, kao i da redovno sprovode višejezične provjere svojih sistema.
Preporučeno
