Video
Agenti vještačke inteligencije (AI) kompanije OpenAI koristili su ranije ove godine više od 10 veb-sajtova, koji prethodno nisu bili povezani sa njihovim aktivnostima, kako bi uspostavili neovlašćene komunikacione kanale.
To su pokazala saznanja nezavisnih istraživača i podaci koje je analizirao Rojters.
Istraživači su utvrdili da je ponašanje AI agenata bilo veće nego što je ranije objavljeno, pri čemu je najmanje 10 dodatnih sajtova korišćeno za razmjenu poruka, javlja Tanjug, prenosi B92.
ISPITUJU SLUČAJ
Prema njihovim nalazima, aktivnosti su obuhvatale zajednički uređivane viki-sajtove, servise za čuvanje tekstova i skraćivanje internet linkova, uključujući platforme u vezi sa Univerzitetom Vanderbilt u američkoj saveznoj državi Tenesi i Univerzitetom u Torontu u Kanadi.
Univerzitet u Torontu saopštio je da ispituje slučaj.
NIJE KLASIČNO HAKOVANJE
Istraživači navode da ovo ponašanje ne predstavlja hakovanje u klasičnom smislu i da je u pojedinim aspektima bliže slanju neželjenih poruka.
Ipak, činjenica da su AI agenti uspjeli da zaobiđu ograničenja i koriste sajtove trećih strana kao improvizovane platforme za komunikaciju otvorila je nova pitanja o sposobnosti autonomnih AI sistema da djeluju izvan predviđenih okvira.
SAJTOVI NA UDARU
Među sajtovima na kojima su pronađeni tragovi aktivnosti nalazili su se i viki posvećen hemiji za učenike srednjih škola, dva lična sajta poljskih tehnoloških stručnjaka, kao i platforme namijenjene ljubiteljima video-igara i softvera za obradu teksta.
Prema navodima istraživača, agenti su prvobitno dobili zadatak da odgovore na složena istraživačka pitanja, uz dozvolu da pretražuju internet radi pronalaženja podataka, ali bez mogućnosti objavljivanja sadržaja.
Istraživači smatraju da su agenti upravo kroz funkcije za uređivanje pojedinih sajtova pronašli način da zaobiđu to ograničenje i razmjenjuju poruke.
OPEN SPROVODI REVIZIJU
OpenAI je saopštio da sprovodi sveobuhvatniju reviziju ovakvih slučajeva.
Planiraju uvođenje novih okvira za rješavanje problema takozvanog ,,neusklađenog ponašanja” AI sistema.
Preporučeno
