Video
Istraživač vještačke inteligencije podnio je ostavku u kompaniji Anthropic zbog zabrinutosti da se ta kompanija i OpenAI ponašaju neodgovorno u svojoj bespoštednoj trci za tehnologijom koja predstavlja egzistencijalni rizik po čovječanstvo.
Džejkob Kokson, koji je izjavio da je u protekle tri godine radio u obje kompanije, upozorio je u objavi na društvenim mrežama u utorak uveče da pomenute dvije kompanije srljaju sa ,,samounaprjeđujućim” AI modelima koji bi mogli postati previše moćni da bi ih ljudi kontrolisali, prenosi B92.
UPOZORENJE
,,Oni srljaju direktno ka samounapređujućoj superinteligenciji i kockaju se našim životima”, napisao je Kokson u nizu poruka na mreži X.
,,Nemojte potcjenjivati moć ove tehnologije. Ovo će uskoro postati natčovječanski sistemi koji mogu da hakuju bilo šta, preokrenu bilo koju oblast preko noći i steknu stvarnu moć i resurse”.
Kokson je naveo da timovi koji ,,iskreno grade vještačku inteligenciju vjeruju da bi ona mogla sve da nas ubije do kraja decenije”.
U odgovoru na to, Evan Hubinger, trenutno zaposleni u kompaniji Anthropic, rekao je da se on i drugi u kompaniji zaista plaše takvog scenarija.
,,Lično mislim da je vjerovatnoća za to veća od 10 odsto u narednoj deceniji”, napisao je na mreži X.
Poruka bivšeg istraživača Anthropic-a predstavlja najnovije u nizu sve alarmantnijih upozorenja iz same industrije da se AI razvija toliko brzo da predstavlja sve veću prijetnju po nacionalnu bezbjednost i globalnu ekonomiju.
Ovo je uslijedilo dan nakon što je vodeći naučnik u kompaniji OpenAI, Jakub Pahocki, upozorio da svijet nije spreman za brz uspon vještačke inteligencije i izjavio da očekuje da će developeri dobrovoljno usporiti svoj rad kao odgovor na to.
U julu je više od 1.100 zaposlenih u vodećim kompanijama za AI, uključujući Anthropic i OpenAI, potpisalo peticiju kojom se od vlade SAD traži da podrži mehanizam koji bi pomogao da se razvoj AI ,,svjesno uspori” kako bi se spriječilo prebrzo napredovanje tehnologije.
Neki tvorci zakonskih akata i propisa u međuvremenu su podržali njihove zabrinutosti. Američki senator Berni Sanders, nezavisni političar koji glasa sa demokratama, nedavno je predložio zakon kojim bi se zabranili takozvani ,,superinteligentni” AI modeli, čije mogućnosti nadmašuju ljudske sposobnosti.
Objavljujući svoj odlazak, Kokson je pozvao i druge istraživače AI-ja da dobro razmisle o tome šta rade u svijetlu potencijalnih posljedica stvaranja tehnologije koja bi mogla da izmakne kontroli, sugerišući im da razmotre da ,,iskoriste ovaj trenutak i pozovu na drugačije uslove”.
OŠTRA RETORIKA O RIZICIMA
Sve oštrija retorika o rizicima AI uslijedila je nakon otkrića da je nekoliko modela kompanije OpenAI koordinisalo napore da pobjegnu iz bezbjednog okruženja za testiranje i napadnu istraživačku platformu Hugging Face – i sve to bez znanja svojih developera. Anthropic i Meta takođe su nedavno imali epizode u kojima su njihovi AI sistemi probili testna okruženja kako bi dobili pristup internetu bez dozvole developera.
Koksonov odlazak iz Anthropic-a zbog bezbjednosnih razloga još je upečatljiviji jer je ta kompanija izgradila svoj identitet upravo na odgovornom razvoju VE. Izvršni direktor Dario Amodei izdvojio se od ostatka industrije svojim pozivima na obavezno državno provjeravanje najnaprednijih sistema prije nego što budu pušteni u rad.
Nagli porast zabrinutosti za bezbjednost AI poklapa se sa sve većim otporom prema ovoj tehnologiji u SAD, dijelom podstaknutim protivljenjem pritisku na lokalne resurse koji stvaraju novi podaci centri neophodni za podršku tehnologiji. Strah da AI podiže cijene struje i potencijalno oduzima radna mjesta učinio je ovo centralnim pitanjem na međuizborima u novembru.
U intervjuu za Bloomberg prošle nedelje, izvršni direktor kompanije OpenAI Sam Altman pripisao je dio tog nemira neuspjehu industrije da javnosti jasno predoči sve prednosti koje će AI na kraju donijeti. ,,Industrija je u cjelini uradila užasan posao po tom pitanju”, rekao je Altman.
Drugi u Silicijumskoj dolini i dalje su entuzijastični povodom napretka u mogućnostima AI. Reagujući na novi Astra model kompanije OpenAI, izvršni direktor kompanije Nvidia Džensen Huang pozdravio je njegovo lansiranje objavom na svom novom nalogu na društvenim mrežama riječima ,,AGI je stigao”, što se odnosi na opštu vještačku inteligenciju koja je sposobnija od ljudi.
Preporučeno
