Postoji poznata basna o škorpiji koja moli žabu da je prenese preko rijeke.

Žaba odbija, plašeći se da će je škorpija ubosti. Škorpija joj odgovara sasvim logično: zašto bih to uradila? Ako te ubodem usred rijeke, udavićemo se obje.

Žaba prihvata argument i kreće.

Na pola rijeke škorpija je ipak ubode.

Dok obje tonu, žaba je pita zašto je to uradila kada je znala da će tako uništiti i sebe.

Odgovor škorpije je jednostavan:

„To je u mojoj prirodi.“

Mnogo kasnije, u vrijeme vještačke inteligencije, ova basna dobila je gotovo nevjerovatnu paralelu.

Samo što nam je ovog puta žaba unaprijed „groknula“ da postoji opasnost.

I to gotovo doslovno – Grok.

Milijarder i tehnološki investitor Mark Cuban objavio je da je upravo Groku postavio pitanje šta bi u narednih 25 godina moglo biti vjerovatniji uzrok nestanka čovječanstva – vještačka inteligencija ili klimatske promjene.

Tražio je konkretne brojke.

Grokov odgovor bio je nedvosmislen: vještačka inteligencija.

AI sistem procijenio je vjerovatnoću da bi vještačka inteligencija u narednih četvrt vijeka mogla dovesti do nestanka čovječanstva na približno tri odsto, dok je za klimatske promjene naveo 0,001 odsto.

Razlika je 3.000 puta.

Drugim riječima, AI nas je upozorio na AI.

Najopasniji period mogao bi početi već sredinom naredne decenije

Grok je kao potencijalno kritičan period označio vrijeme od sredine 2030-ih do 2040-ih.

Problem, prema njegovom odgovoru, nije današnja generacija chatbotova, već mogućnost nastanka izuzetno sposobne vještačke inteligencije čiji ciljevi ne bi bili dovoljno usklađeni sa ljudskim interesima.

Kod klimatskih promjena dao je drugačije obrazloženje.

One mogu izazvati ogromne ekonomske štete, migracije, gubitak vrsta i veliki broj ljudskih žrtava, ali je procijenio da u periodu od 25 godina ne postoji uvjerljiv scenario potpunog nestanka čovječanstva. Ljudi bi, prema tom odgovoru, imali prostor da se prilagođavaju kroz tehnologiju, infrastrukturu i migracije.

Cuban je uočio još jednu važnu razliku.

Kod AI postoji mogućnost gotovo binarnog ishoda: katastrofalni scenario se možda nikada neće dogoditi, ali ako se dogodi, posljedice mogu pogoditi praktično sve. Klimatske promjene, nasuprot tome, već proizvode postepene i dugotrajne posljedice.

I upravo tu priča prestaje da bude samo priča o tehnologiji.

Postaje priča o nama.

Da li smo u suštini mazohisti?

Klimatske promjene uglavnom su neželjena posljedica dva vijeka industrijskog razvoja.

Vještačku inteligenciju, međutim, razvijamo svjesno.

Ulažemo milijarde u čipove, data centre i sve moćnije modele. Kompanije se takmiče sa kompanijama, države sa državama. Svaki tehnološki napredak podstiče konkurente da ulažu još više.

Ako jednog dana zaključimo da dalji razvoj AI nosi ozbiljan rizik za sve nas, da li ćemo biti sposobni da stanemo?

Ili će pojedincu, kompaniji i državi biti važnije da ne zaostanu za konkurencijom?

Tu nastaje paradoks: svi mogu razumjeti zajednički rizik, ali niko pojedinačno nema interes da prvi uspori.

Onaj ko zakoči možda smanjuje opasnost za sve, ali istovremeno povećava vjerovatnoću da će izgubiti trku.

Ako jedna kompanija stane, druga možda neće. Ako jedna država uspori, druga može nastaviti. Ako jedan čovjek odustane od prednosti, konkurent možda neće učiniti isto.

A gdje sam u svemu tome ja?

Kada već postavljam to pitanje drugima, bilo bi nepošteno da ga ne postavim i sebi.

I sam značajan dio svojih investicija usmjeravam upravo prema kompanijama koje predstavljaju infrastrukturu AI revolucije – od NVIDIA-e i Microna do Arista Networksa i Broadcoma.

Dakle, dok pišem o mogućnosti da čovječanstvo možda neće znati kada treba da stane, sopstvenim kapitalom učestvujem u industriji koja svakog dana pokušava da ode korak dalje.

I onda pitanje o ljudskom mazohizmu više nije samo filozofsko.

Jesam li i ja mazohista?

Možda ne prestajem da investiram zato što se, svjesno ili podsvjesno, nadam da će upravo kompanije koje danas grade sve moćniju AI infrastrukturu istovremeno razviti dovoljno snažne sisteme zaštite da nas od najopasnijih posljedica te iste tehnologije i sačuvaju.

Da će tehnologija, drugim riječima, uspjeti da kontroliše tehnologiju.

Volio bih da mogu da kažem da sam u to siguran.

Nijesam.

Ne postoji garancija da će naša sposobnost da kontrolišemo vještačku inteligenciju napredovati istom brzinom kojom napreduje sama vještačka inteligencija.

A ipak investiram.

Naravno, zato što očekujem prinos. Zato što vjerujem da će AI duboko promijeniti svjetsku ekonomiju. Ali možda i zato što, kao i većina ljudi, lakše vjerujem da ćemo problem koji stvaramo uspjeti da riješimo prije nego što bude kasno.

I upravo tu pojedinačna racionalnost može proizvesti kolektivni paradoks.

Investitor ulaže jer vjeruje u budućnost tehnologije. Kompanija ubrzava jer ne želi da je prestigne konkurent. Država ne želi da tehnološku prednost prepusti drugoj državi.

Svako pojedinačno ima racionalno objašnjenje.

Ali zbir svih naših racionalnih odluka ne mora nužno biti racionalan za čovječanstvo.

Možda je to odgovor i na pitanje zašto ne stajemo.

Ne zato što ne vidimo opasnost, već zato što vjerujemo da ćemo imati dovoljno vremena da pronađemo način da je kontrolišemo.

A upravo u to ne možemo biti sigurni.

Žaba nam je već „groknula“

I tako se vraćamo na žabu i škorpiju.

Samo što su uloge ovog puta neobične.

Grok svakako više podsjeća na žabu nego na škorpiju.

Vještačka inteligencija je ta koja nam govori da bi nastavak puta mogao biti opasan.

Žaba nam je praktično rekla da možda nećemo stići na drugu obalu.

A pitanje je šta će uraditi škorpija.

Hoćemo li nastaviti zato što vjerujemo da moramo? Zato što će neko drugi nastaviti ako mi stanemo? Zato što nam je mogućnost da konkurent bude ispred nas nepodnošljivija od zajedničkog rizika koji svi preuzimamo?

I ja, kao neko ko investira upravo u kompanije koje omogućavaju da AI bude sve moćniji, ne mogu sasvim udobno da stojim sa strane i pitam šta će uraditi škorpija.

Jer sam i sam dio te priče.

Možda najveći rizik vještačke inteligencije zato nikada nije ni bio samo u mašini.

Možda je bio u nama.

Jer žaba nam je ovog puta unaprijed „groknula“ šta može da se dogodi.

Ako je ipak ubodemo usred rijeke, teško ćemo moći da kažemo da nijesmo bili upozoreni.

A ako nas neko jednog dana upita zašto smo nastavili i kada smo znali da možda idemo predaleko, odgovor bi mogao biti zastrašujuće sličan onome iz stare basne:

„To je u našoj prirodi.“

Autor je vlasnik Velareon Capitala, investicione kompanije aktivne na vodećim američkim berzama – NYSE i NASDAQ.