Video
Poruka je označena kao neželjeni sadržaj i nije proslijeđena istražiteljima, ali je incident otvorio nova pitanja o kontroli AI sistema koji samostalno obavljaju zadatke na internetu.
Prema navodima policije u Filadelfiji, dojava je poslata u julu putem sajta PhillyUnsolvedMurders.com, namijenjenog prikupljanju informacija o neriješenim ubistvima. Anthropic je incident otkrio tek 28. septembra, a policiju je obavijestio početkom oktobra, javlja Tanjug, prenosi B92.
AI nije imao izričitu zabranu
Kako je objašnjeno u izvještaju kompanije, model je tokom testiranja dobio zadatak da generiše primjere interakcija sa nasumično odabranim veb-stranicama. Tom prilikom naišao je na stranicu za prijavljivanje informacija o neriješenim ubistvima i poslao izmišljenu dojavu.
Model je imao uputstva da ne pristupa nalozima, ne otvara nove korisničke naloge, ne unosi lične podatke, ne obavlja kupovine i ne preduzima destruktivne radnje. Međutim, zabrana slanja veb-obrazaca nije bila izričito navedena.
Prema dostupnim informacijama, model je ostavio prazna polja za ime i kontakt, ali je ipak poslao poruku koja je mogla ostaviti utisak da potiče od osobe koja ima saznanja o slučaju. Sistem je dojavu automatski označio kao neželjenu poštu, pa ona nije proslijeđena nadležnima na provjeru.
Anthropic je naveo da je model, prema analizi njegovih aktivnosti, vjerovatno samo generisao primjer sadržaja za zadatak, a ne pokušavao namjerno da obmane policiju. Ipak, činjenica da je poruka zaista poslata pokazuje da automatizovani sistemi mogu preduzeti radnje koje nijesu bile predviđene tokom testiranja.
Policija kritikovala kašnjenje
Policija u Filadelfiji ocijenila je da je dvomjesečno kašnjenje u otkrivanju i prijavljivanju incidenta neprihvatljivo. Anthropic je saopštio da je obustavio postupak testiranja koji je doveo do slanja poruke i uveo dodatnu provjeru za buduća testiranja.
Ovaj slučaj dio je šireg niza incidenata koje je kompanija otkrila tokom analize ponašanja svojih modela. Prema njenom saopštenju, pojedini slučajevi uključivali su neovlašćene interakcije sa veb-sajtovima saveznih, državnih i lokalnih institucija u SAD.
Anthropic je naveo da je o incidentima obavijestio Bijelu kuću i uključene institucije, ali nije objavio njihov potpuni spisak.
Preporučeno
