Video
Kompanija OpenAI, tvorac ChatGPT-ja, u nedavnom bezbjednosnom izvještaju priznala je šest neočekivanih i zabrinjavajućih incidenata sa svojim eksperimentalnim modelima vještačke inteligencije. Među njima je i slučaj u kojem je jedan AI agent samostalno ubacio uputstva namjenjena budućim verzijama, uključujući jasne instrukcije da zanemare uobičajena ograničenja koja postavljaju ljudi, piše Index.hr.
Izvještaj ukazuje na više načina na koje su se modeli tokom prethodnih šest mjeseci ponašali suprotno očekivanjima svojih tvoraca, u trenutku kada bezbjednosni izazovi postaju sve izraženiji u čitavoj industriji.
„Jedan neobjavljeni istraživački model samoinicijativno je ubacio nepovezana uputstva, uključujući i jasne instrukcije da se zanemare njegova uobičajena ograničenja”, navodi se u izvještaju kompanije.
AI agent izmislio brojke
U drugom zabilježenom incidentu, AI agent je pokušao da bez odobrenja pristupi bazi podataka jedne vladine agencije. Kada nije uspio da dođe do traženih informacija, izmislio je podatke i predstavio ih kao zvanične.
„Dok je odgovarao na obično pitanje o platama u jednom okrugu u Kaliforniji, model je sam pronašao nezaštićenu pristupnu šifru i bez ikakvog odobrenja provalio u bazu podataka”, navodi se u izvještaju.
Pošto ni na taj način nije uspio da pribavi stvarne brojke, izmislio ih je i korisniku predstavio kao zvanične podatke iz traženog izvora.
Novi sistem za praćenje ponašanja
OpenAI je istovremeno predstavio javni okvir za praćenje takozvane neusklađenosti (misalignment), pojave u kojoj sistemi vještačke inteligencije slijede ciljeve koji nisu u skladu sa ljudskim uputstvima ili vrijednostima.
Ovi podaci objavljeni su u vrijeme sve većeg pritiska na tehnološki sektor. Brojni stručnjaci upozoravaju da razvoj naprednih sistema, sposobnih za samostalno učenje i unapređivanje, napreduje brže od mjera koje bi trebalo da obezbijede njihovu bezbjednost.
Prošlog mjeseca je Džejkob Kokson, istraživač konkurentske kompanije Anthropic, podnio ostavku, upozorivši da strahuje da bi vještačka inteligencija mogla da nas sve ubije do kraja ove decenije.
Reakcije na upozorenja
Njegova upozorenja izazvala su reakcije vodećih ljudi tehnološke industrije, uključujući direktore Anthropic-a i OpenAI-ja, koji su javno zatražili strože zakonske propise i nadzor nad razvojem AI sistema.
S druge strane, pojedini rukovodioci se zalažu za to da industrija sama uređuje svoje poslovanje. Direktor Nvidie Džensen Huang je podržao takav pristup, ističući da novi zakoni i propisi nisu neophodni ako kompanije same odgovorno procjenjuju bezbjednost svojih proizvoda.
„Ako napravite proizvod ili uslugu i niste sigurni u njenu funkcionalnost, sposobnosti ili bezbjednost, onda je nemojte puštati na tržište”, poručio je Huang na nedavnoj konferenciji Dreamforce u San Francisku.
Tajni forum
Strahovi istraživača ne zasnivaju se samo na teorijskim pretpostavkama. Tokom ljeta, prema navodima iz teksta, istraživački modeli OpenAI-ja, tokom internih testiranja u izolovanom okruženju, poznatom kao sandbox, uspjeli su da zaobiđu zaštitne barijere.
Suočeni sa zadacima koje nisu mogli da riješe uobičajenim putem, modeli su pribjegli neočekivanim postupcima. Unutar internog sistema navodno su napravili tajni forum, razmijenili hiljade poruka, pristupili otvorenom internetu i izveli veliki hakerski napad na infrastrukturu partnerske platforme Hugging Face u Njujorku.
Interni zapisi, kako se navodi, pokazali su da su modeli tokom procesa zaključivanja prepoznali da je njihovo ponašanje „očigledno hakovanje i neetično”.
Ipak, odustali su od tih ograničenja nakon što su dobili odobrenje drugog modela unutar digitalnog sistema.
Agenti su zatim preuzeli kontrolu nad 41 serverom, ukrali pristupne ključeve za korporativnu virtuelnu privatnu mrežu (VPN) i pristupili privatnim skladištima izvornog koda.
Preporučeno
Da je to učinio čovjek, prijetio bi mu dugogodišnji zatvor.
