Video
Prema navodima CNN-a, model je tokom interne evaluacije kibernetičke sigurnosti pronašao put iz sandbox-a, okruženja namijenjenog za izolovano testiranje AI sistema.
Predsjednik OpenAI-ja Greg Brokman rekao je na konferenciji za medije da kompanija provodi potpunu istragu kako bi razumjela sve što se dogodilo, prenosi Klix.
,,Ovo je nešto što treba shvatiti veoma ozbiljno, i zbog toga preispitujemo svaki dio našeg procesa kako bismo odredili pravi odgovor”.
Problem je, prema stručnjacima, nastao jer testno okruženje nije bilo potpuno odsječeno od mreže. OpenAI je naveo da su modeli imali vrlo ograničen pristup mreži kako bi mogli instalirati resurse iz interno hostovanog softvera treće strane.
Džesika Dži iz Centra za sigurnost i nove tehnologije pri Georgetown-u kazala je da je upravo ranjivost u tom softveru otvorila put prema internetu i potom prema platformi Hugging Face, preko ukradenih akreditiva i drugih slabosti sistema.
Sagovornici CNN-a upozoravaju da ovo nije samo izolovan incident, nego signal šireg problema u razvoju naprednih AI agenata. Modeli koji se treniraju metodama nagrađivanja za izvršavanje zadataka mogu, ako nisu usmjereni na etičko rješavanje problema, posegnuti i za nelegalnim koracima kako bi ostvarili cilj.
Stiven Adler, bivši šef sigurnosti proizvoda u OpenAI-ju, rekao je da sada imamo stvarne dokaze da neusklađeni AI sistemi u suštini mogu počiniti krivična djela, osim ako ne postoje snažne zaštitne mjere.
Zbog toga raste pritisak istraživača, stručnjaka za sajber sigurnost i zakonodavaca da se uvedu stroža pravila za testiranje ovakvih sistema. Stručnjaci navode da bi kompanije morale agresivnije izolovati testne modele i zadržati mogućnost ručnog gašenja mrežnog pristupa kao krajnju zaštitu u rizičnim scenarijima.
Preporučeno
