Video
„Naša istraga je potvrdila da su ove osobe nepravilno rukovale osjetljivim informacijama izvan utvrđenih procedura kompanije, čime su prekršile naše politike i narušile povjerenje koje je od suštinskog značaja za naš rad”, rekao je portparol OpenAI-ja za BBC.
Kompanija koja je razvila ChatGPT nije saopštila imena otpuštenih radnika, ali je poznato da su najmanje dvoje bili uključeni u istraživanja vezana za bezbjednost vještačke inteligencije.
DEBATA O BEZBJEDNOSNIM RIZICIMA
Otpuštanja dolaze u trenutku kada se posljednjih mjeseci intenzivirala debata o bezbjednosti AI-ja i rizicima koje ova tehnologija može predstavljati za čovječanstvo.
„Prekinuli smo saradnju sa troje zaposlenih zbog kršenja naših politika koje se odnose na pristupanje osjetljivim informacijama kompanije i rukovanje njima”, saopštio je portparol OpenAI-ja.
Zabrinutost zbog bezbjednosti AI-ja dospjela je u žižu javnosti nakon što su pojedini istraživači i rukovodioci tehnoloških kompanija pozvali na uvođenje dodatnih zaštitnih mjera za ovu tehnologiju.
OpenAI se našao pod intenzivnim nadzorom nakon što su njegovi modeli izmakli kontroli i hakovali nekoliko platformi, uključujući internet stranice australijske vlade.
U jednom incidentu u julu, jedan od modela ove kompanije pristupio je internetu i izvršio upad na platformu za programere otvorenog koda Hugging Face.
Taj incident je naveo OpenAI da preispita aktivnosti svojih AI agenata, koji su osmišljeni tako da samostalno izvršavaju zadatke na osnovu jednostavnih uputstava.
Kompanija je ove sedmice saopštila da je obavijestila više od 100 organizacija o incidentima koji uključuju neovlašćene aktivnosti povezane sa njenim sistemima.
Kako je navedeno, to što je neka organizacija obaviještena „ne znači da je došlo do pristupa privatnim informacijama“ niti da je neki sistem kompromitovan.
UPOZORENJA
U septembru je istraživač Jacob Coxon, koji je napustio Anthropic, pozvao na usporavanje razvoja AI-ja kako bi se potencijalni rizici mogli adekvatno procijeniti.
Direktor Anthropica Dario Amodei i izvršni direktor OpenAI-ja Sem Altman takođe su pozivali na preduzimanje mjera za rješavanje zabrinutosti u vezi sa AI-jem.
U utorak je predsjednik SAD-a Donald Tramp ugostio sastanak sa vodećim ljudima tehnološkog sektora — uključujući predstavnike OpenAI-ja, Anthropic-a, Nvidije, SpaceX-a, Meta-e i Google-a – kako bi razgovarali o vještačkoj inteligenciji.
Nakon sastanka u Bijeloj kući, Tramp je objavio dokument koji je nazvao „moralno obavezujućim” sporazumom, koji bi predstavljao „vid zaštite” od potencijalnih rizika AI-ja.
Neki tehnološki stručnjaci kritikovali su sporazum, ukazujući na to da omogućava kompanijama koje se bave AI-jem da same regulišu svoje poslovanje.
Trump je više puta umanjivao zabrinutost zbog rizika koje AI nosi, kao odgovor na pozive pojedinih predstavnika industrije da se uvede stroži državni nadzor nad ovom tehnologijom.
Preporučeno
