Video
Iako ova faza još nije dostignuta, kompanija smatra da bi mogla stići ranije nego što su institucije spremne da je kontrolišu. U svom blogu, kompanija navodi da bi takav nivo AI mogao donijeti ogromne koristi, posebno u nauci i medicini, gdje bi sistemi koji se sami unapređuju mogli ubrzati istraživanja i otkrića na način koji danas nije moguć.
Međutim, isti scenario nosi i ozbiljne rizike. Anthropic upozorava da bi gubitak kontrole nad takvim sistemima postao realna mogućnost, jer bi AI potencijalno mogao da nastavi da se unapređuje bez ljudskog nadzora, javlja Engadget, prenosi B92.
ŠTA ANTHROPIC PREDLAŽE?
Kao moguće rješenje, kompanija predlaže globalno usporavanje ili privremenu pauzu u razvoju najnaprednijih AI sistema.
Cilj bi bio da regulacija, bezbjednosna istraživanja i društvene institucije stignu tehnološki napredak.
Ovaj predlog dolazi iz kompanije koja je danas jedan od ključnih igrača u AI industriji.
MARKETING?
Kritičari, uključujući analitičare WSJ, tvrde da bi ovakva upozorenja mogla imati i marketinšku pozadinu.
Po toj interpretaciji, Anthropic bi mogao da se pozicionira kao ,,odgovorniji” igrač u poređenju sa konkurencijom ili da podigne interesovanje za sopstvene proizvode.
Posebne sumnje izazvao je i ograničeni pristup njihovom AI bezbjednosnom modelu Mythos, koji je navodno pušten samo odabranim partnerima zbog potencijalne zloupotrebe, dok skeptici smatraju da je riječ o poslovnoj strategiji i kontroli tržišta.
JE LI PREKID MOGUĆ?
Ipak, kompanija tvrdi da je predlog o usporavanju zasnovan na radu njihovog istraživačkog ogranka Anthropic Institute, koji je formiran da proučava dugoročne rizike napredne AI tehnologije.
Da bi eventualni globalni prekid razvoja bio moguć, morale bi da učestvuju sve vodeće AI laboratorije u svijetu, uz mehanizme provjere da niko ne nastavlja razvoj u tajnosti.
Anthropic čak navodi da slični međunarodni sporazumi postoje u drugim oblastima, poput nuklearnih tehnologija, iako priznaje da bi uspostavljanje takvog sistema u AI industriji bilo znatno teže i vremenski osjetljivije.
Preporučeno
