Video
Tokom protekle godine rasle su zabrinutosti zbog potencijalnih opasnosti koje nosi vještačka inteligencija, a vodile su se i žustre rasprave o pravom putu za bezbjednost AI-ja. Sada se čini da je kompanija Anthropic iznijela sopstvenu viziju o tome kako bi država mogla da reguliše ovu industriju.
Politico je nedavno javio da ova AI laboratorija promovše novi nacrt zakona o bezbjednosti vještačke inteligencije, za koji se nada da bi Kongres SAD-a mogao uzeti u razmatranje. Ovaj zakon navodi određene scenarije u kojima bi objavljivanje AI modela moglo biti blokirano, prenosi B92.
Ti scenariji uključuju ,,predvidiv, neposredan rizik” – onaj u kom postoji opasnost da pogine više od 50 ljudi ili da nastane materijalna šteta veća od milijardu dolara. Katastrofalni rizik o kom je riječ mora da ,,potiče od stvaranja ili upotrebe biološkog oružja, situacije u kojoj model izmakne kontroli svog programera ili od sajber napada”, napominje ovaj medij.
PROCJENA ,,KATASTROFALNOG RIZIKA”
Ponuđena mjerila – 50 ljudi i milijardu dolara – slična su onima iz nedavno usvojenog zakona u Kaliforniji, koji je na sličan način definisao te scenarije kao jednake ,,katastrofalnom riziku”.
Nacrt zakona kompanije Anthropic predlaže da se do procjene potencijala modela za izazivanje katastrofe dolazi putem ,,nezavisnih procjenitelja” koji bi bili registrovani pri Ministarstvu trgovine SAD. Te procjenitelje bi potencijalno mogle da plaćaju same AI laboratorije – pod uslovom da “,,isplata ne zavisi od rezultata procjene”, piše Politico.
Nije najjasnije kako bi ovaj predloženi sistem osigurao da isplate ne utiču na procjenu. Demis Hasabis, predsjednik kompanije DeepMind, iznio je priie nekoliko mjeseci ideju da bi samoregulišuće tijelo za AI trebalo da se ugleda na Regulatorno tijelo za finansijsku industriju (FINRA) iz oblasti finansija.
ZAUSTAVLJANJE MODELA
U nacrtu zakona kompanije Anthropic, kada projenitelji utvrde da postoji neposredan katastrofalni rizik, imali bi rok od 72 sata da o tome obavijeste Ministarstvo trgovine.
Ministarstvo trgovine bi zatim moralo da zatraži od sudije u Vašingtonu (D.C.) obustavu objavljivanja modela. Ovaj zakon bi izričito zabranio bilo kojoj federalnoj agenciji da po sopstvenom nahođenju obustavi distribuciju modela, piše Politico.
Portparol kompanije potvrdio je postojanje nacrta zakona za Politico. ,,Ovaj predlog zakona predstavlja mjere navedene u Anthropic-ovom Okviru za naprednu vještačku inteligenciju (Advanced AI Framework), za koji se zalažemo pred federalnim i državnim zakonodavcima još od juna”, rekao je portparol.
Preporučeno
