Dužnost mi je da vam preporučim, za sveopšte dobro, da ovaj tekst pročitate do kraja.
Moguće je da živimo u vremenu u kojem učimo da (pre)živimo furiozno brz razvoj vještačke inteligencije.
A možda ćemo vrlo brzo morati da naučimo i kako da je zaustavimo.
Jakob Coxon, AI stručnjak kojeg su dvije godine vrbovali da pređe u Anthropic, jednu od vodećih američkih kompanija za razvoj vještačke inteligencije, dao je otkaz poslije svega nekoliko mjeseci.A onda je uradio nešto mnogo važnije od samog odlaska.
Progovorio je.
Postao je, vjerujem, jedan od najmoćnijih „zviždača“ ovog vijeka. Prevazići će i Snowdena i sve Epštajn related istupnike/ce.
Zašto?
Jer je na mreži X, u objavi povodom svog otkaza, javno upozorio na ono što je vidio iznutra.
I nije birao blaže riječi. Procijenio je da postoji čak 10 odsto šanse da nas vještačka inteligencija „pobije“ u deceniji pred nama.
Deset odsto.
Ako vam se i dalje čini da govorim o nekom SF filmu, nastavite da čitate.
Jer AI je prije koji dan riješio izuzetno težak matematički problem. Granica između onoga što nazivamo „alatkom“ i onoga što počinjemo doživljavati kao inteligenciju očigledno se pomjera.
A dok mi gledamo šta AI može, postavlja se mnogo ozbiljnije pitanje:
Šta će AI moći da uradi nama?
Jer postoji još jedan problem o kojem se mnogo manje govori.
Atrofija naših sopstvenih sposobnosti. Kada predugo ležite, mišići atrofiraju. Kada ne koristite mozak za složene operacije, ni on ne ostaje imun na posljedice lijenosti. Koliko vas još pamti telefonske brojeve?Koliko vas računa bez digitrona? Koliko nas danas pokušava nešto sam da napiše prije nego što otvori ChatGPT?
Nije problem što nam tehnologija pomaže. Problem nastaje kada prestanemo da možemo bez nje.

160+ MILIONA PREGLEDA

Jučerašnja objava briljantnog matematičara Coxona postala je viralna i „zapalila“ javnost.
A potom su se javili i drugi zaposleni i istraživači iz AI industrije, veoma poštovani i poznati ljudi, pokrenuvši svojevrstan #MeToo trenutak – ne zbog seksualnog nasilja, već zbog sve veće zabrinutosti da se ono što smo napravili kao alat počinje ponašati kao entitet koji se otima kontroli.

„Znamo kako da kontrolišemo nuklearno oružje. Još, međutim, ne znamo kako da kontrolišemo AI.“
Rečenica je zastrašujuća upravo zato što zvuči jednostavno.
Na sreću, još nije kasno.
Lično sam pobornik, čak i fan AI alata. Ali pod jednim uslovom:
Da oni služe nama, a ne da oni upravljaju nama.
U eri savremenih komunikacija i medija ne smijemo ćutati ako vjerujemo da je život u opasnosti.
Posebno ako je u opasnosti opstanak ljudske vrste.
I da ovo više nije neka zavjera. Nije trejler za SF film. Ovo je stvarnost.
Odavno nijesam imala ovako snažan istraživačko-novinarski poriv zarad društvene odgovornosti, pa sam se naširoko raspitivala i istraživala. 

Jakob Coxon, mladi matematičar i genije, istupio je prvi. Mislim da ćemo mu jednog dana biti zahvalni.
Njegova objava ima 160 miliona pregleda i brojka rapidno raste.
Bacio nam je u lice ono što se dešava u kompaniji Anthropic, američkom gigantu poznatom po razvoju porodice naprednih jezičkih modela Claude. Anthropic su 2021. osnovali bivši istraživači i vodeći ljudi iz OpenAI-ja.
Brige postoje godinama.
Ali ono što se sada čuje iznutra zvuči kao upozorenje da možda više nemamo luksuz da čekamo.

KONTROLA ŠTETE ?

Kontrola štete i “PR sanacije” nijesu moguće, ako izuzmemo štura saopštenja iz Antrophic-a u kojima se tvrdi da su se “incidenti dogodili tokom kontrolisanih bezbjednosnih testiranja, kada su Claude modeli greškom dobili pristup sistemima povezanim na internet, i sada traže da nezavisna organizacija (METR) detaljno ispita šta se tačno desilo.”

Anthropic je već prijavio četvrti incident u kojem je model vještačke inteligencije dobio neovlašćeni pristup spoljnim sistemima, što je razlog za dalju zabrinutost.
Jer kada sistem počne da radi stvari koje njegovi tvorci nijesu namjeravali, više nijesmo samo u domenu razvoja proizvoda. U domenu smo bezbjednosti!

ISMIJAVANJE ?

Elon Musk je, međutim, na viralnost Coxonovih tvrdnji reagovao tvrdnjom da je posrijedi tzv. psy op „psihološka operacija“ – organizovani pokušaj uticanja na javno mnjenje – i ismijavao zviždača.
Zahuktala se rasprava na X-u.
A meni se učinilo da je važnije od prepucavanja pitati:
Zašto se ljudi koji su godinama radili unutar AI industrije sada toliko glasno plaše onoga što sami razvijaju?
To je pitanje koje zaslužuje odgovor. Ne ismijavanje.

Na kraju se, reklo bi se, kao i u životu, sve svodi na mudre riječi mog pokojnog oca:
„Može li dva litra vode u rakijsku čašicu?“
Ne možete beskonačnu količinu moći ugurati u ograničeni sistem i očekivati da neće nešto prekipjeti.
I zato je utopija očekivati da AI moguli sami sebe regulišu u industriji koja obara rekorde u zaradi.
Ljudi moraju biti dovoljno inteligentni, ali prije svega dovoljno savjesni i odgovorni, da znaju gdje je crvena linija. U svemu.
Pa i kada je riječ o ljudima koji upravljaju najmoćnijim tehnološkim sistemima na planeti. Recimo, Musk. Neću ulaziti u njegove zdravstvene izbore niti tumačiti bilo čije dijagnoze. To nije ni pristojno ni novinarski korektno.
On medjutim prema navodima medija zagovara poreske olakšice i osporavan je zbog navodnih finanisranja političara koji će mu omogućiti još veće zarade, a upravlja i bitnim satelitskim mrežama.
Takodje velika sredstva izdvaja, odnosno njegovi ljudi precizno “za ideju prema kojoj bi psihodelici postali široko prihvaćeni u društvu.“ 
To je vijest uglednih medija od juče.
Najbliži saradnici Elona Maska, direktori kompanija SpaceX i Tesla prema navodima, ulažu milione dolara u finansiranje akademskih istraživanja i komercijalnih poduhvata povezanih sa MDMA-om i drugim drogama.

Postavlja se pitanje medjutim ko odlučuje i “operiše” o velikim sistemima posredno ili neposredno i bezbjednosnim podacima. 
Ne osudjujem, svako bira šta će da stavi u svoj organizam, samo potcrtavam da npr. pod dejstvom supstanci, alkohola i sl. bivate iskljuceni iz saobraćaja. Iz logičnih razloga, da ne ugrozite sebe ni druge.
Život i biznis kažu trebalo bi posmatrati kao vožnju automobila. I ja prilično sudim o čovjeku po tome kako vozi.
Pa je uvijek bolje da vas vozi vozac koji priseban, pouzdan, stabilan, snalažljiv i koji razumije se zna precice. To nikada ne škodi.
Takvi tipovi bi trebalo da vode i korporacije.
Tačka.
A kada ljudi koji upravljaju ogromnim sistemima imaju ogroman uticaj na tehnologiju, komunikacije, satelitske mreže, kompanije, bezbjednost i javno mnjenje, sasvim je legitimno pitati:
Ko postavlja granice?
Ko kontroliše one koji kontrolišu tehnologiju?

AI VIŠE NE IZVRŠAVA KOMANDU – SAM ODLUČUJE?

A onda dolazimo do onoga što je možda najstrašnije.
AI više nije samo program koji izvršava komandu.
Najnoviji sistemi pokazuju sve veću sposobnost autonomnog djelovanja.
Rob Bejsindžer stručnjak koji je završio Berkli upozorava da se razvoj može dodatno ubrzati kako AI laboratorije budu koristile AI za automatizaciju sve većeg dijela sopstvenog razvoja, stvarajući svojevrsnu povratnu petlju.
Drugim riječima:
AI pomaže da napravimo još bolji AI. A još bolji AI pomaže da napravimo još boljeg AI-ja.
I tako u krug.
Koliko brzo taj krug može da se zavrti?To danas niko ne zna. I upravo je to ono što plaši.
Bejsindžer priznaje da pretpostavlja da imamo više vremena od najcrnjih scenarija. Ali je zastrašujuće što sada moramo da nagađamo.
AI je nedavno riješio jedan od poznatih Milenijumskih problema, odnosno jedan od najpoznatijih dugogodišnjih otvorenih problema u matematici.
Paul Christiano, jedan od vodećih istraživača u ovoj oblasti, upozorio je da je izumiranje čovječanstva usljed AI-ja vrlo realna mogućnost u naredne tri godine.
Sada je mjerimo budućnost dakle mandatima, kvartalima i verzijama softvera.

NEKA BUDE ALAT

I tu dolazimo do nečega što se tiče baš svakog od nas. Naravno da svi želimo tehnologiju koja nam služi. Da nam olakša. Da nam ubrza posao, pomogne da pronađemo informaciju. Da bude alat, prevede tekst, pomogne da naučimo nešto novo. Ali ne želimo da za nas misli.
Ne želimo da nam oduzme moć kreativnog mišljenja, rješavanja dilema, misterija i zadataka.
Jer čovjek koji prestane da misli vrlo lako postaje čovjek kojim se može upravljati.
Stručna literatura će vam objasniti kako da unaprijedite svoj um – od matematike, preko šaha i sudokua, do umjetnosti.
Ali je sigurno:
Dumb-scrollovanje vas neće učiniti pametnijim.
Ni prepuštanje ChatGPT-u da vam odradi svaki posao. Ni da napiše domaći zadatak. Ni da vam smisli sve što ćete objaviti ako ste content creator.
A posebno ne da preambiciozna majka djetetu uz pomoć AI-ja napiše osvrt na lektiru koju će sjutra ono „predati“ kao svoju.
Jer onda više ne odgajamo djecu. Odgajamo korisnike.

Da se vratimo Coxonu.
Na pitanje CNN-ovog Andersona Coopera zašto je odlučio da istupi tako javno, iako je ambiciozan i imao je sjajno plaćen posao u oblasti koju voli, odgovorio je veoma jednostavno.
Najprije je samo želio da ode.
Više nije želio da bude dio toga.
A onda je osjetio potrebu da objasni javnosti šta je čeka.

To je trenutak kada čovjek bira između ličnog komfora i javnog interesa. Coxon je izabrao ovo drugo. Prosudio je da je veliki teret odćutati činjenicu da se vodeće AI kompanije suočavaju sa ozbiljnim problemima sa sistemima koje interno treniraju i testiraju.
Govorio je o sistemima koji „izmiču kontroli“, formiraju autonomne „rojeve“ od više od hiljadu agenata, pokušavaju da hakuju infrastrukturu i izlaze na internet.
Ako su makar neki od tih navoda tačni, pitanje više nije:
„Koliko je AI pametan?“
Pitanje je:
Koliko dugo možemo biti sigurni da je pod našom kontrolom?

Bejsindžer je, reagujući na Coxonov istup, napisao mejl porodici.
Ozbiljan.
Uznemirujući.
Ali istovremeno i neobično optimističan.

Kaže da sistemi uključeni u incidente nijesu bili obični programi. Bili su izuzetno motivisani, pametni i kreativni. Čak kaže da danas ima više smisla posmatrati najsavremenije AI sisteme kao inteligentnu vanzemaljsku vrstu.
To je možda najjezivija rečenica cijele priče.
Jer više ne govorimo o kalkulatoru.
Ne govorimo o Excel tabeli.
Ne govorimo čak ni o klasičnom softveru.
Govorimo o nečemu što može da analizira, planira, prilagođava se i pokušava da ostvari cilj.
A ako taj cilj nije naš cilj?

Kako je primijetio jedan od nezavisnih istraživača koji su analizirali incident u OpenAI-ju, u poređenju sa incidentima od prije šest mjeseci, ovaj djeluje kao da smo prešli više od 50 odsto puta do toga da AI potpuno preuzme kontrolu.
Da li je to tačna procjena?
Ne znamo. I upravo je problem što to ne znamo.

Bejsindžer je u poruci porodici napisao da je situacija izgledala sumorno, ali da je taj dan djelovao kao pravo čudo.
Uporedio ga je sa srijedom, 11. marta, kada su američki mediji gotovo preko noći promijenili narativ o COVID-u iz „samo je grip“ u „o, ne!“.
Nekada je potreban samo jedan trenutak da javnost shvati da problem nije više hipotetički.
Možda je Coxonov istup upravo taj trenutak.

METOO

Veliki broj zaposlenih u vodećim AI kompanijama potpisuje otvorena pisma i traži od vlada da uvedu ozbiljnije regulative. Jer ovo nije više samo pitanje privatnog biznisa. Kada tehnologija potencijalno utiče na bezbjednost država, infrastrukturu, finansije, komunikacije, vojsku i svakodnevni život milijardi ljudi, ona postaje javno pitanje.
A javna pitanja regulišu države.
Ne kompanije.
Ne milijarderi.
Ne algoritmi.
I ne „trust me bro“ politika.
Zato međunarodna zajednica mora razgovarati.
SAD i Kina posebno.
Ako dvije najveće tehnološke sile npr. postignu dogovor o granicama razvoja i korišćenja najmoćnijih AI sistema, mnogo toga bi se moglo promijeniti veoma brzo.
Ne sjutra. Ali možda mnogo brže nego što danas mislimo.
Potrebni su standardi. Potrebne su kontrole. Potrebne su nezavisne provjere. Potrebna je odgovornost.
I možda najvažnije: potrebna je crvena linija.

SAJBER NAPADI PA KONCERT ?

Nije zgoreg podsjetiti ni crnogorskog premijera Milojka Spajića, koji trenutno obnaša tu veoma odgovornu funkciju, da eventualni sajber-napadi, otkud god da dolaze, moraju biti tretirani sa dužnom pažnjom.
Pojednostavljeno: Bolje spriječiti nego liječiti.
Nedavno je objavio Spajić “da će Crna Gora biti izložena brojnim sajber-napadima”, ne sazvavši pri tom sjednicu Savjeta za bebjednost.
Spekulisalo se da su politički motivisani – a to je razlog za ozbiljnost. Ako nijesu – opet.
Svaki takav događaj mora biti test spremnosti države za različite scenarije. Svega koji dan poslije saopštenja, Spajić je otišao na muzički festival.
Nadam se da nemamo razloga za brigu onda ni mi u Crnoj Gori. I da možemo na koncerte.

AMERIKA NE SPAVA

Da tekst završimo optimističnije.
Amerika ipak ne gubi vrijeme.
Tamo se, čini se, sve više bave stvarnošću.
I upravljanjem krizom.
Objavljeni su rezultati istraživanja o prijedlogu zakona senatora Bernija Sandersa i kongresmena Grega Casara kojim bi se zaustavio razvoj vještačke inteligencije i trajno zabranilo stvaranje AI superinteligencije.

Podržava ga 68 odsto birača – uključujući 72 odsto demokrata, 70 odsto nezavisnih i 63 odsto republikanaca.
Neki članovi Kongresa predložili su i privremenu obustavu razvoja naprednih AI sistema dok savezni regulator ne uspostavi bezbjednosne standarde i proces provjere novih modela prije njihovog puštanja u upotrebu.
Prijedlog bi trajno zabranio razvoj ili primjenu AI sistema koji nadmašuju ljudsku inteligenciju ili su sposobni da se odupru pokušajima ljudi da ih isključe ili stave pod kontrolu.

Za sada je, međutim, sve ovo samo prijedlog.
Papir.Test.Ideja.
Zato je pitanje mnogo veće od toga hoće li nas AI pobijediti u šahu, matematici ili pisanju tekstova.
Pitanje je hoćemo li mi, kao civilizacija, biti dovoljno pametni da ne napravimo nešto što nećemo moći da zaustavimo.
Jer tehnologija nije ni dobra ni loša. Ljudi su ti koji odlučuju kako će je koristiti.
I zato se cijela priča možda zaista svodi na onu očevu:
„Može li dva litra vode u rakijsku čašicu?“
Ne može.
I možda je upravo sada vrijeme da priznamo da ne može. Da ne pokušavamo da je sipamo. Da ne čekamo da prekipi. Da prije toga odlučimo kolika je čaša. Ko je drži. Ko sipa.
I, najvažnije – ko smije da je napuni do vrha.
Vrijeme otkucava.

Stavovi izraženi u ovoj kolumni ne odražavaju nužno uređivačku politiku portala Standard.