Video
Samo ChatGPT svake nedjelje koristi 800 miliona ljudi širom svijeta. Za mnoge, ti digitalni asistenti već su zamjena za tradicionalne pretrage na Guglu.
Ali to povjerenje je rizično, kao što pokazuje nova studija Evropske radiodifuzne unije (EBU). Udruženje 68 javnih emitera iz 56 zemalja sistematski je testiralo pouzdanost najpopularnijih sistema sa vještačkom inteligencijom. Rezultat je zastrašujući: ChatGPT, Claude, Gemini i drugi četbotovi izmišljaju i do 40 odsto svojih odgovora i predstavljaju ih kao činjenice.
Halucinacije: Vještačka inteligencija ubjedljivo laže
Popularni četbot ChatGPT čvrsto tvrdi da je papa Franjo još uvijek živ. Majkrosoftov Copilot, koji je integrisan u kancelarijske programe Word i Excel, ne zna da je Švedska u NATO. A Guglov Gemini smatra da je ponovni izbor Donalda Trampa “moguć”, iako se to odavno dogodilo, piše DW. Postoji fenomen koji stručnjaci nazivaju “halucinacija”: vještačka inteligencija fantazira o informacijama koje djeluju koherentno, ali nemaju činjeničnu osnovu. To se posebno često dešava kod regionalnih događaja, aktuelnih dešavanja ili kada je potrebno povezati više informacija.
Prijetnja demokratiji
Ali šta to znači za društvo u kojem sve više ljudi dobija informacije od četbotova? Posljedice su već primjetne: lažne informacije brzo se šire društvenim mrežama, jer korisnici dijele “činjenice” koje generiše vještačka inteligencija bez provjere. Đaci i studenti uključuju izmišljene informacije u svoje radove. Građani mogu da donose odluke o tome za koga će glasati na osnovu lažnih tvrdnji.
Posebno je problematično što mnogi korisnici nisu ni svjesni da četbotovi mogu halucinirati. Oni pretpostavljaju da tehnologija funkcioniše objektivno i činjenično, što je opasna zabluda. Sistemi vještačke inteligencije upozoravaju na potencijalne greške u svojim uslovima korišćenja, ali – ko to još čita?
Šteta po ugled medija
Još jedan problem tiče se kredibiliteta etabliranih medija. Četbotovi redovno tvrde da njihove izmišljene informacije dolaze od takvih izvora kao što su, na primjer, njemački javni servisi ARD ili ZDF, iako oni o tome nikada nisu izvještavali – ili su izvještavali sasvim drugačije. Korisnici gube povjerenje u renomirane izvore kada vještačka inteligencija zloupotrebljava njihova imena za širenje lažnih informacija.
Studija EBU testirala je četbotove sa stotinama činjeničnih pitanja: o istorijskim događajima, naučnim nalazima i aktuelnim vijestima. U zavisnosti od teme, stopa grešaka kretala se od 15 do čak 40 odsto. Nijedna od testiranih vještačkih inteligencija nije radila besprekorno.
Zašto vještačka inteligencija griješi?
Problem je u sistemu: četbotovi zapravo ne razumiju šta govore. Oni izračunavaju koje riječi će vjerovatno da odgovaraju na osnovu ogromnih količina teksta i ne mogu da provjere da li je izjava koja je proizvod takvih izračunavanja tačna. Oni nemaju znanje o činjenicama, imaju samo statističke obrasce.
Tehnološke kompanije su svjesne tih nedostataka i rade na rješenjima. Integrišu baze podataka, poboljšavaju navođenje izvora i preobučavaju sisteme. U razvoj se ulažu milijarde. Ipak, halucinacije ostaju fundamentalni, neriješeni problem te tehnologije.
Šta korisnici mogu da urade?
EBU preporučuje jasna pravila za postupanje sa četbotovima: nikada ne vjerujte slijepo, uvijek provjeravajte važne informacije, za vijesti i činjenice oslanjajte se na etablirane medije, a ne na vještačku inteligenciju. Oprez se posebno savjetuje kada su u pitanju političke teme, zdravstvena pitanja ili finansijske odluke.
Škole i univerziteti moraju da podučavaju medijsku pismenost: kako da prepoznam dezinformacije koje generiše vještačka inteligencija, koji izvori su pouzdani? Njemačka vlada planira kampanje za podizanje svijesti – ali one kasne. Milioni ljudi već dugo i svakodnevno koriste tu tehnologiju.
Dok ona ne postane pouzdanija, važi sljedeće: četbotovi mogu biti korisni za kreativne zadatke ili kao pomagala za pisanje, ali nisu pogodni kao provjeravači činjenica ili izvori vijesti. I niko ne bi trebao stoprocentno da se na njih oslanja.
Svako ko želi da bude informisan ne može izbeći renomirane medije kojima su ljudi urednici, koji provjeravaju izvore i procjenjuju tvrdnje i dokaze. Digitalna revolucija može da promijeni mnoge stvari, ali potreba za pažljivim istraživanjem i provjeravanjem činjenica ostaje.
Preporučeno
