Ovo su samo neka od predviđanja koja je iznio Džek Klark, suosnivač kompanije Anthropic (jednog od najvećih rivala OpenAI-ja), opisujući trenutni tehnološki razvoj kao ,,vrtoglavi osjećaj napretka”.
Tokom predavanja studentima na Univerzitetu Oksford, Klark je iznio niz prognoza koje pokazuju koliko se svijet brzo mijenja, piše Klix.
U roku od 18 mjeseci na tržištu će se pojaviti profitabilne kompanije kojima će u potpunosti upravljati vještačka inteligencija, ostvarujući milione dolara prihoda.
Do kraja 2028. godine, AI sistemi će postati dovoljno napredni da sami dizajniraju svoje nasljednike, čime će se ljudski faktor u razvoju dodatno smanjiti.
UPOZORENJE
Uprkos fascinantnim mogućnostima, Klark je uputio i mračno upozorenje javnosti. Naglasio je da i dalje postoje realni scenariji u kojima tehnologija nosi ,,šansu da ubije sve na planeti”.
,,Važno je jasno navesti da taj egzistencijalni rizik nije nestao”, poručio je suosnivač Anthropic-a.
On je priznao da bi za čovječanstvo bilo najbolje kada bi moglo usporiti razvoj ove tehnologije kako bismo imali više vremena da se prilagodimo.
NEMILOSRDNA TRŽIŠNA I GEOPOLITIČKA TRKA
Ipak, svjestan je da se to neće desiti zbog nemilosrdne tržišne i geopolitičke trke.
,,Različiti akteri i države uhvaćeni su u međusobnu konkurenciju. Komercijalna i geopolitička rivalstva često guše veće, egzistencijalne aspekte tehnologije koja se gradi, a koji su ključni za opstanak naše vrste. To definitivno nije idealno”, iskren je Klark.
MYTHOS: ,,ALARMANTNO SPOSOBAN MODEL”
Anthropic je širom svijeta poznat po svom AI modelu Claude, međutim, kompanija je nedavno lansirala novu verziju pod nazivom Mythos.
Prema Klark-ovim riječima, ovaj model se već pokazao ,,alarmantno sposobnim” u pronalaženju i iskorištavanju slabosti u sistemima kibernetičke sigurnosti.
OPTUŽBE
Zbog ovakvih upozorenja, kritičari i zagovornici bržeg razvoja AI-ja (uključujući i administraciju Donalda Trampa u SAD-u) optužili su Anthropic da namjerno ,,širi strah” kako bi podstaknuo uvođenje državnih regulacija koje bi ugušile manju konkurenciju.
Iz Anthropic-a ove optužbe oštro odbacuju. Klark navodi da se društvo ponaša neodgovorno i da odbija vidjeti realnost.
,,Ako budemo samo stajali po strani i pustili da se vještačka inteligencija nekontrolisano umnožava bez pripreme, na kraju ćemo biti prisiljeni na reaktivnost. To je kao da se nismo pripremili za pandemiju koronavirusa”, zaključio je.
S druge strane, nezavisni stručnjaci upozoravaju na još jedan problem, globalni sistemi postaju previše zavisi od svega nekoliko AI modela koje kontrolišu giganti poput Anthropic-a, OpenAI-ja i Google-a. To stvara tzv. ,,jedinstvenu tačku kvara”, ako ti sistemi zakažu ili budu kompromitovani, posljedice po cijeli svijet mogle bi biti katastrofalne.
Preporučeno
Video