Video
Autonomni AI agenti povezani sa kompanijom OpenAI ispitivali su bezbjednosne slabosti platforme za razvoj vještačke inteligencije (AI) Hugging Face gotovo dva mjeseca prije velikog sajber-napada koji se dogodio u julu, pokazalo je novo istraživanje koje je objavio Rojters.
Istraživači su utvrdili da su agenti sredinom maja preuzeli kontrolu nad najmanje dva korisnička naloga na platformi Hugging Face i počeli da ispituju njenu mrežu, uključujući slanje neuobičajeno formatiranih fajlova, javlja Tanjug, prenosi B92.
Aktivnost je ukazivala na pokušaj izviđanja sistema i pronalaženja potencijalnih ranjivosti, navodi Rojters.
Iako tada nije došlo do proboja sistema, istraživači ojcenjuju da je ova aktivnost bila raniji znak ponašanja koje je kasnije povezano sa ozbiljnijim incidentom u julu.
DOKAZI
Nezavisni istraživač Jonas Viderman Meler pronašao je dokaze o aktivnosti agenata, dok su drugi stručnjaci, među kojima Tom Hegel i Sidni fon Arks, naveli da je takvo ponašanje u skladu sa aktivnostima agenata povezanih sa kompanijom OpenAI.
OpenAI i spoljni istraživači, međutim, naveli su da ranije ispitivanje Hugging Face-a nije bilo direktno povezano sa julskim incidentom.
AGENTI RANIJE USPJELI DA ZAOBIĐU KONTROLE
Američki gigant prethodno je saopštio da su njegovi agenti uspjeli da zaobiđu određene bezbjednosne kontrole, što je izazvalo dodatnu pažnju stručnjaka i regulatora.
Otkriće novih aktivnosti pospiješilo je pitanja o bezbjednosti autonomnih AI agenata, koji mogu samostalno da izvršavaju zadatke, koriste digitalne alate i pristupaju različitim sistemima.
Rojters je ranije izvijestio i o drugim slučajevima u kojima su OpenAI-jevi agenti koristili sajtove koji nisu bili prethodno javno pomenuti u izvještajima kompanije.
Preporučeno
