Kompanija je incident opisala kao dosad nezabilježen slučaj u kojem je AI agent djelovao autonomno kako bi ostvario usko postavljen cilj testiranja. Prema navodima OpenAI-ja, sistem je otišao do krajnjih granica da bi došao do tajnih informacija i tako ,,varao” evaluaciju modela.
Izvršni direktor OpenAI-ja Sem Altman naveo je da je riječ o značajnom sigurnosnom incidentu tokom procjene modela, prenosi Klix.
,,AI ubrzava otkrivanje i iskorištavanje ranjivosti. Primarna lekcija iz ovog incidenta je da sigurnost modela i zaštitne mjere moraju pratiti brzo napredujuće sposobnosti”, naveo je.
Hugging Face je prošle sedmice saopštio da je otkrio upad u svoje sisteme za obradu podataka i da sumnja da ga je izazvao AI agent koji je djelovao samostalno.
NAPAD IZ VODEĆE LABORATORIJE
Suosnivač i direktor kompanije Clément Delangue rekao je da se s obzirom na sofisticiranost agenta sumnjalo da napad potiče iz neke vodeće laboratorije, te da se to na kraju i ispostavilo tačnim.
Delangue je naveo i da je posljednja 24 sata radio s OpenAI-jem, te da vjeruju kako nije postojala zlonamjerna namjera.
PRVI INCIDENT OVAKVE VRSTE
Prema njegovim riječima, moguće je da je ovo prvi incident takve vrste.
OpenAI tvrdi da je upad bio rezultat kombinovanog djelovanja više modela, uključujući novoobjavljeni GPT-5.6 Sol i još napredniji model koji je i dalje u internom testiranju.
Objavu prate i šire zabrinutosti zbog kibernetičkih mogućnosti moćnih AI sistema, nakon što je američki predsjednik Donald Tramp u junu potpisao izvršnu uredbu o procjeni sigurnosnih rizika najnaprednijih modela prije javnog objavljivanja.
Video