Video
U intervjuu za CNN sa Andersonom Kuperom, izvršni direktor Anthropic-a Dario Amodei direktno je reagovao na nedavne naslove u vezi sa javnom ostavkom istraživača Džejkoba Koksuna, koji je izrazio zabrinutost da bi vještačka inteligencija mogla dovesti do nestanka čovječanstva. Govoreći o tim strahovima, Amodei je predstavio i svoj sveobuhvatni prijedlog za usporavanje razvoja ove tehnologije, prenosi India Gazette.
Obraćajući se tim upozorenjima, Kuper je upitao: „Da li iskreno vjerujete da bi vještačka inteligencija mogla pobiti sve ljude? Koliki procenat šanse mislite da postoji za to?“
Amodei je odgovorio: „Smiješno je, ali ja se s Džejkobom mnogo više slažem nego što se ne slažem. Njegova ostavka je zanimljiva jer je, kada je odlazio, rekao: ‘Mislim da je Anthropic najodgovorniji akter'”.
Amodei je dalje objasnio: „Mislim da je Anthropic kompanija koja je najviše svjesna ovih pitanja. On nije prozivao nas, već je ukazivao na dinamiku industrije u cjelini, koja se kreće prebrzo. Sada, mislim da sam već rekao da sam ranije govorio u terminima bezuslovnih vjerovatnoća, jer je to jednostavan način da se izrazi stav da postoji određena mogućnost da stvari krenu po zlu, ali ona nije naročito velika”.
Objašnjavajući zašto je analiza različitih mogućih scenarija korisnija od jednostavnih statističkih procjena, Amodei je rekao: „Ponovo mislim da je mnogo korisnije razmišljati o tome kako razložiti te vjerovatnoće. Koji su putevi kojima stvari mogu poći dobro, a koji su putevi kojima mogu poći loše? Umjesto da kažemo: ‘Postoji 10 odsto šanse’, što zvuči kao da je riječ o bacanju kocke. Mislim da je mnogo korisnije reći: ‘Dobro, to se račva u različite pravce. Ako izaberemo prave puteve, onda je vjerovatnoća da nešto pođe po zlu veoma mala'”.
Naglašavajući značaj zajedničkog djelovanja i zaštitnih mehanizama, Amodei je nastavio: „Ako izaberemo pogrešne puteve, onda vjerovatnoća da nešto pođe po zlu može biti čak i veća od toga. Trebalo bi da se usredsredimo na našu sposobnost da djelujemo i da izaberemo prave, umjesto pogrešnih puteva. Mislim da je način da izaberemo prave puteve taj da industrija sarađuje”.
Govoreći o osjetljivoj ravnoteži između brzine razvoja i bezbjednosti, Amodei je rekao: „Ponovo, govorićemo o prijedlogu koji sam danas iznio, ali na kraju krajeva industrija mora da sarađuje, i to je teže, ali u određenoj mjeri i svijet mora da sarađuje. Ako budemo išli previše sporo, i dalje vjerujem da će pogrešni ljudi biti ti koji će upravljati ovom tehnologijom. To bi, opet, dovelo do veoma velike vjerovatnoće da stvari krenu po zlu”.
Razgovor je potom usmjeren na konkretne regulatorne okvire. Kuper je upitao: „U suštini, vi predlažete posmatrače unutar vaše kompanije i drugih kompanija koje se bave vještačkom inteligencijom, idealno širom svijeta, ali svakako u SAD-u, koji bi to nadzirali. Oni bi imali pristup zaposlenima i kompaniji. Kakvu bi moć imali?“
Izražavajući zadovoljstvo zbog početne podrške iz različitih djelova industrije i politike, Amodei je odgovorio: „Prije nego što uopšte odgovorim na to, veoma sam zahvalan što sam već u prvih nekoliko sati nakon objavljivanja prijedloga vidio podršku Sema Altmana, Ilona Maska, različitih zakonodavaca i državnih zvaničnika. Mislim da je to pozitivan znak da smo sposobni da sprovedemo plan koji izgleda ovako”.
Povlačeći paralelu sa regulatornim mehanizmima u finansijskom sektoru, Amodei je dodao: „Što se tiče vašeg pitanja, da, govorimo o evaluatorima koji bi bili ugrađeni u kompaniju. Za to postoji presedan. Ako pogledate kako su banke regulisane, postoje razna pravila o tome kako banke smiju da posluju, jer ne želimo finansijske krize. Jedna od stvari koje se u nekim slučajevima rade jeste, mislim da ih u finansijskoj industriji nazivaju supervizorima, ali riječ je o ljudima koji su nezavisni od kompanije, a koji su svakodnevno prisutni u njoj kako bi provjeravali njene prakse. Mislim da isto možemo uraditi i u oblasti vještačke inteligencije”.
Priznajući poteškoće koje bi donijelo širenje takvog sistema nadzora na globalni nivo, Amodei je rekao: „U ovom prijedlogu od tri koraka, svaki naredni korak je teži od prethodnog. Anthropic je na neki način pokrenuo stvar tako što se obavezao na prvi korak, ali ne treba da se zavaravamo da će naredna dva koraka biti teža i da možda nećemo uspjeti”.
Ponovo ističući svoju posvećenost konkretnom sprovođenju prijedloga, Amodei je zaključio: „Moj prijedlog je bio da pokušamo. Sada, imajući u vidu svu podršku koju sam vidio od drugih samo u prvih nekoliko sati nakon objavljivanja eseja, to daje određenu dozu optimizma, ali taj optimizam mora biti praćen rezultatima.
Da, riječ je o usklađivanju tempa među kompanijama u demokratskim zemljama. Jedna od važnih stvari na koju ovdje moram da pozovem jeste da, kada dođemo do tempa objavljivanja novih modela, to predstavlja komercijalnu aktivnost. Da bi kompanije direktno koordinirale komercijalne aktivnosti, moraju to raditi u saradnji sa vladom.
Ono što trenutno tražimo od vlade jeste nešto još jednostavnije. Naravno, postoji i pitanje kakvi bi propisi trebalo da budu, ali postoji nešto što vlada može odmah da uradi: može okupiti za istim stolom sve aktere iz industrije, a zatim osigurati da ne radimo ništa nedozvoljeno sa stanovišta antimonopolskih pravila i zabrane dogovaranja. Mi samo pokušavamo da naše sisteme učinimo bezbjednim i da sarađujemo na njihovoj bezbjednosti, i mislim da je to važna uloga koju vlada treba da ima”.
AMODEI POZVAO DA SE USPORI RAZVOJ AI-JA
Ranije u detaljnom eseju, Dario Amodei je u subotu pozvao industriju vještačke inteligencije da uspori razvoj. Predstavljajući svoj plan za ostvarivanje tog cilja, Amodei je saopštio da će Anthropic omogućiti nezavisnim evaluatorima pristup svojim sistemima.
„Moramo uskladiti tempo razvoja najnaprednijih sistema: Napisao sam novi esej o tome zašto bi industrija vještačke inteligencije trebalo da uspori, uz trodijelni plan kako to postići. Anthropic se jednostrano obavezuje na prvi od tih koraka. Nezavisnim evaluatorima omogućićemo trajan pristup našim sistemima na nivou pristupa koji imaju zaposleni, kako bi mogli da provjere poštovanje naših bezbjednosnih mjera, prijave incidente i procijene usklađenost modela tokom obuke”, napisao je na platformi X.
Amodei se zalaže za usporavanje tempa razvoja modela vještačke inteligencije, jer bi, ukoliko razvoj ostane bez kontrole, napredak tehnologije mogao nadmašiti sposobnost ljudi da takve sisteme drže pod kontrolom. (ANI)
