Video
Džakula za portal Standard kaže da kada kompanija koja živi od prodaje modela kaže da je njen proizvod toliko moćan da postaje opasan, ona u istoj rečenici šalje i najjaču moguću poruku o kvalitetu te tehnologije.
„Percepcija opasnosti ovdje funkcioniše kao potvrda moći, a kupac koji bira alat prirodno bira onaj za koji se tvrdi da je najmoćniji na svijetu”, pojašnjava stručnjak.
On za naš portal govori i o AI trci kroz političke igre, ističući da ona svaku regulaciju pretvara u jednostrano razoružanje, a istovremeno opravdava kapitalna ulaganja kakve nijedna druga industrija danas ne može da traži.
STANDARD: ZAŠTO ,,OPASNOST” I NAVODNI RIZICI DOLAZE BAŠ SADA I BAŠ OD ČELNIKA AI INDUSTRIJE?
DŽAKULA: Upozorenja koja smo čuli sredinom septembra stigla su od ljudi koji tu tehnologiju prodaju, a ne od nezavisnih istraživača ili regulatora, i to je prva stvar koju treba držati na umu. Dario Amodei je 12. septembra objavio tekst pod naslovom „We Must Pace the Frontier“, u kojem traži da industrija svjesno uspori tempo unapređenja najnaprednijih modela, Sem Altman ga je podržao, a Ilon Mask je odgovorio sa tri riječi da je Dario u pravu. Pridružio se i Demis Hasabis iz Google DeepMind-a. Amodei je potom za CBS rekao da je industrija predugo lagala ljude o tome kakve rizike ova tehnologija nosi, u smislu da su rizici ublaženi ili potcijenjeni, i najavio da će Anthropic nezavisnim evaluatorima dati trajni pristup modelima, uporedivši to sa inspekcijom hrane.
Taj posljednji prijedlog je ozbiljan i vrijedi ga pohvaliti. Nezavisna provjera bezbjednosnih praksi razvoja ove tehnologije je prijeko potrebna, ali bih je izdvojio kao jedinu činjenicu u ovom narativu koja je objektivna i pozitivna. Sve ostalo treba čitati opreznije. Kada kompanija koja živi od prodaje modela kaže da je njen proizvod toliko moćan da postaje opasan, ona u istoj rečenici šalje i najjaču moguću poruku o kvalitetu te tehnologije. Percepcija opasnosti ovdje funkcioniše kao potvrda moći, a kupac koji bira alat prirodno bira onaj za koji se tvrdi da je najmoćniji na svijetu.
Sadržaj prijedloga to dodatno potvrđuje. Amodejev tekst traži da se zadrže izvozne kontrole na napredne čipove prema Kini i da se zabrani takozvana ,,destilacija” (Destilacija vještačke inteligencije predstavlja obučavanje manjeg „učeničkog” modela korišćenjem izlaznih podata većeg „nastavničkog” modela. Tom praksom konkurencija može da kopira modele dru kompanije), a došao je u trenutku kada su akcije čip kompanija izgubile blizu petine vrijednosti u odnosu na jun mjesec. Obje mjere direktno sužavaju konkurenciju američkim laboratorijama.
Ovo ne znači da su rizici izmišljeni, nego želim da ukažem da o njihovoj prirodi i obimu ne možemo suditi na osnovu saopštenja onih koji zarađuju na svakom mogućem ishodu, ni kada hvale ni kada stvaraju strah i paniku.
STANDARD: NA POLITIČKOM PLANU, MOŽE SE REĆI DA SE AI GLEDA KAO ,,ORUŽJE”. KAKO KOMENTARIŠETE TRKU IZMEĐU SAD-A I KINE U NADMOĆI NAD AI-JEM?
DŽAKULA: Tramp se uključio nedavno u ovu temu rekavši da Sjedinjene Države vode u trci sa Kinom, da želi da tako i ostane, i da ko pobijedi u vještačkoj inteligenciji, pobjeđuje u svemu. Nazvao je otpor prema data centrima i strahove da će AI preuzeti kontrolu prevarom, a poruku je poslao i telefonom, uživo, dok je Džensen Huang bio na bini jedne konferencije. Predsjednik Američkog Predstavničkog doma Majk Džonson dodao je da bi žurno donošenje ograničenja bilo prijetnja nacionalnoj bezbjednosti.
Kina međutim stvara narativ iz suprotnog smjera. Portparol kineskog Ministarstva vanjskih poslova odbacio je poziv na usporavanje kao širenje straha, a državni Global Times optužio je Amodeja da nudi hladnoratovski scenario usmjeren na sputavanje Kine.
Istovremeno je kineski ministar državne bezbjednosti poručio da zemlja mora ubrzati izgradnju sistema za sprečavanje i kontrolu bezbjednosnih rizika vještačke inteligencije, opisujući je kao novu stazu strateškog rivalstva. Dakle, obje strane koriste jezik bezbjednosti onda kada im odgovara i odbacuju ga kada im ne odgovara.
Ova AI trka kroz političke igre svaku regulaciju pretvara u jednostrano razoružanje, a istovremeno opravdava kapitalna ulaganja kakve nijedna druga industrija danas ne može da traži. Globalna potrošnja na vještačku inteligenciju u 2026. procjenjuje se na oko 2,5 biliona dolara, a samo najveći provajderi najavili su preko 600 milijardi dolara kapitalnih ulaganja ove godine. Ulaganja pritom rastu znatno brže od prihoda, sa razlikom od oko 46 odsto (podaci se ažuriraju).
Tramp i Si sastaju se 24. septembra i upravljanje vještačkom inteligencijom biće jedna od glavnih tema, pa očekujem da retorika naredne sedmice bude još oštrija sa obje strane.
Moj savjet čitaocima je da poruke biznismena i političara tretiraju kao ono što jesu, kao pozicione i subjektivne izjave. Zaključke o stvarnom stanju tehnologije treba graditi na osnovu onoga što govore istraživači, inženjeri, nezavisni evaluatori i timovi za odgovor na incidente, dakle ljudi koji nemaju vlasnički udio u ishodu.
STANDARD: DA LI SU AI MODELI STVARNO OPASNI IZ UGLA INFORMACIONE BEZBJEDNOSTI?
DŽAKULA: Jesu, ali opasnost nije u tome da će mašina sama odlučiti da nam naudi, već u tome što je ljudima koji su i ranije krali, varali i ucjenjivali dala brzinu kakvu do sada nijesu imali.
Najjednostavniji primjer poznat je svakome. Godinama smo prevaru prepoznavali po lošem jeziku, jer je mejl iz kojeg vas neko ubjeđuje da ste dobili paket ili da vam je blokiran račun bio napisan nespretno i sa greškama. Taj filter više ne postoji. Danas prevarant iz bilo koje zemlje za nekoliko sekundi dobije savršen tekst na crnogorskom, sa imenom vaše banke, vašeg poslodavca i vašeg grada. Isto važi za glas i video, pa se sve češće dešava da neko čuje poznat glas na telefonu i povjeruje mu, a razgovara sa snimkom.
Druga promjena je brzina. U izvještaju koji je Anthropic objavio 10. septembra opisan je slučaj u kojem su napadači od jedne ukradene lozinke jednog zaposlenog došli do potpune kontrole nad sistemima kompanije za otprilike tri sata. U istom izvještaju stoji i zaključak koji mi se čini najvažnijim, a to je da je vještačka inteligencija izbrisala razliku između pojedinca koji radi sam i tima koji finansira država. Ono za šta je ranije trebalo desetak obučenih ljudi, mjeseci rada i ozbiljan novac, danas može da uradi jedna osoba za jedno popodne.
Za običnog čovjek, iz toga slijedi nekoliko vrlo jednostavnih stvari. Ne treba više vjerovati tome kako poruka izgleda, jer savršen jezik i tačni podaci o vama više ništa ne dokazuju. Kada vas neko požuruje da odmah platite, pošaljete kod ili otvorite link, to je sam po sebi znak da treba stati. Svaku takvu poruku, i kada dolazi od člana porodice ili direktora, vrijedi provjeriti drugim putem, pozivom na broj koji već imate u imeniku. I na kraju, dvostruka potvrda prilikom prijave na mejl i banku danas vrijedi više nego bilo koja lozinka.
Za firme i ustanove važi isto, samo sa kraćim rokom. Napad koji traje tri sata ne može se zaustaviti procedurom koja se aktivira za tri dana.
STANDARD: ŠTA BI GRAĐANI/KE I PRIVREDA TREBALO DA URADE U SVEMU TOME?
DŽAKULA: Ponavljam to često i stojim iza toga: vještačka inteligencija sama po sebi nije ni dobra ni loša, ni opasna ni bezbjedna, a razlika je isključivo u tome ko sjedi za volanom. Zato veći fokus treba da bude na akterima, i regulaciji ove tehnologije. To u praksi znači da tehnologija mora biti regulisana u razvoju ali slobodno dostupna onima koji je koriste za dobro, dakle naučnicima, prosvjetarima, zdravstvenim radnicima, privrednicima i običnim građanima.
Za pojedinca je najkorisnije pitanje vrlo konkretno i tiče se toga kako mu model može podići kvalitet svakodnevnog života. Tu mislim na učenje i razvoj, na rješavanje problema koje čovjek sam ne bi znao da postavi, na bolju komunikaciju i razmišljanje, na administraciju i kućne obaveze koje troše vrijeme, i na stvaranje nečega novog.
Za poslodavce, nevladin sektor, zdravstvo i kritičnu infrastrukturu pitanje je da li se ta tehnologija koristi tako da zajednica od nje ima koristi, i da li se koristi pod kontrolom. Kontrola u ovom trenutku znači tri jednostavne stvari koje mnogi još nijesu uradili: da se zna koji podaci ulaze u modele, da se zna ko odobrava agentima pristup sistemima i podacima, i da se sve to bilježi. Ko to riješi sada, dočekaće spreman i usklađivanje sa evropskim pravilima, koje nam ionako dolazi kroz pregovarački proces.
