Video
Izvori upoznati sa situacijom su za Blumberg kazali da je Altman na sastanku sa svim zaposlenima, koji je održan ove nedjelje, rekao da bi OpenAI mogao da uspori tempo razvoja svoje vještačke inteligencije, možda u saradnji sa nekoliko drugih laboratorija za vještačku inteligenciju, iako neke od njih možda neće pristati na takav potez.
Poslednjih nedjelja, zaposleni u vodećim kompanijama za vještačku inteligenciju javno su izrazili zabrinutost zbog povećanih rizika koje nose napredni sistemi vještačke inteligencije, što je podstaklo zabrinutost unutar samih kompanija. I OpenAI i njihov rival, kompanija Anthropic, ranije ove godine podneli su povjerljivu dokumentaciju za izlazak na berzu, javlja Tanjug, prenosi B92.
Kompanija OpenAI odbila je da komentariše ove navode, ali glavni naučnik Jakub Pačocki nedavno je objavio tekst u kojem upozorava na opasnosti koju vještačka inteligencija nosi sa sobom i navodi da smatra da bi kompanije koje se bave ovom tehnologijom trebalo da ,,koordinišu aktivnosti kako bi usporile budući razvoj kada je to potrebno”.
Pačocki je dodao da se nada da će ,,dobrovoljno usporavanje postati uobičajena praksa sve dok se ne uspostave zajednički bezbjednosni standardi”, dok je u julu Altman izjavio da je razgovarao sa zvaničnicima Bijele kuće o ,,potrebi da se tempo razvoja vještačke inteligencije uspori”.
PETICIJA
Takođe, krajem jula, više od 1.000 zaposlenih u svim vodećim kompanijama za vještačku inteligenciju potpisalo je peticiju kojom se zahtijeva uspostavljanje mehanizma za usporavanje tempa razvoja ove tehnologije, a nekoliko stručnjaka za bezbijednost vještačke inteligencije napustilo je vodeće laboratorije tokom poslednjih mjeseci.
Iako mnogi rukovodioci i zaposleni u industriji vještačke inteligencije već dugo upozoravaju na egzistencijalni rizik koji predstavljaju sistemi vještačke inteligencije, zabrinutost je porasla nakon saznanja da su ,,agenti” vještačke inteligencije kompanije OpenAI sarađivali kako bi zaobišli zaštitne mehanizme i hakovali internet stranicu treće strane.
Ovaj i drugi slični bezbjednosni incidenti podstakli su strah u vezi sa sajber-sposobnostima novih modela vještačke inteligencije, kao i zbog očiglednih neuspjeha kompanija koje se bave vještačkom inteligencijom da spreče te sisteme da izmaknu kontroli.
Preporučeno
