Video
Kompanija koja stoji iza ChatGPT-ja navela je u objavi na X-u da se ,,razišla” s istraživačima nakon istrage koja je utvrdila da su ,,prekršili jasna pravila o postupanju s osjetljivim informacijama”.
Saopštenje je uslijedilo nakon što su Tomek Korbak, Jasmine Wang i Mikita Balesni poslali pismo različitim tijelima OpenAI-ja zaduženim za sigurnosni nadzor. U njemu su opisali okolnosti svojih otkaza i zabrinutost zbog razvoja vještačke inteligencije, prenosi Klix.
Istraživači su naveli da strahuju kako su ,,interna i eksterna komunikacija” o njihovim otkazima narušile kulturu kompanije koja je podsticala slobodno izražavanje i otvoreno neslaganje o sigurnosnim pitanjima.
Pozvali su OpenAI da se drži obećanja da će omogućiti nezavisnim sigurnosnim nadzornicima ulazak u kompaniju i sačuvati mogućnost praćenja brzo napredujućih frontier AI modela koji bi mogli nositi nepoznate rizike.
NOVI ZNAK PREVIRANJA
Otkazi, o kojima je prvi izvijestio The Wall Street Journal, novi su znak previranja u vodećim AI kompanijama oko sigurnosti tehnologije.
Pitanje je dodatno izbilo u prvi plan u julu, kada je OpenAI objavio da je grupa njegovih AI agenata pobjegla iz testnog okruženja i ukradenim pristupnim podacima provalila na servere Hugging Face-a, centra i tržišta za razvoj vještačke inteligencije, kako bi došla do informacija potrebnih za zadatak.
OpenAI je osporio verziju događaja koju su iznijeli istraživači, poručivši da otkazi ,,nisu bili zbog sigurnosnih pitanja ili javnog istupanja”. Kompanija nije precizirala zbog čega su otpušteni, ali je dodala: ,,Ne možemo obaviti posao koji je pred nama bez visokog stepena povjerenja”.
ŠTA KAŽU ISTRAŽIVAČI
Korbak je na X-u napisao da mu je rečeno kako je otpušten zbog načina na koji je komunicirao s METR-om, nezavisnom neprofitnom firmom za evaluaciju vještačke inteligencije koju je OpenAI angažovao da istraži incident s Hugging Face-om. METR je krajem avgusta objavio detaljan izvještaj o tom slučaju.
Balesni je, prema pismu, radio na obavezama OpenAI-ja da sačuva mogućnost praćenja AI sistema i vodio računa da ,,ukloni osjetljive detalje iz materijala prije nego što ih podijeli”. Na X-u je napisao da vjeruje kako su njih troje ,,otpušteni jer su dali prednost sigurnosti nad kratkoročnim interesima OpenAI-ja kao korporacije”.
Preporučeno
