Izvršni direktor kompanije Meta Mark Zakerberg obećao je da će vještačku opštu inteligenciju (AGI) – koja je grubo definisana kao vještačka inteligencija koja može da izvrši bilo koji zadatak koji čovek može – učiniti javno dostupnom jednog dana. Ali, u novom dokumentu o politici, Meta sugeriše da postoje određeni scenariji u kojima možda neće objaviti visoko sposoban AI sistem koji je interno razvio.
Dokument, koji Meta naziva svojim Frontier AI Framevork, identifikuje dvije vrste AI sistema, koje kompanija smatra previše rizičnim za objavljivanje: sistemi „visokog rizika“ i „kritičnog rizika“.Kako ih Meta definiše, sistemi „visokog rizika“ i „kritičnog rizika“ su sposobni da pomognu u sajber-bezbJednosnim, hemijskim i biološkim napadima, razlika je u tome što sistemi „kritičnog rizika“ mogu dovesti do „katastrofalnog ishoda [koji ] se ne može ublažiti u kontekstu predloženog postavljanja”.
Sistemi visokog rizika, nasuprot tome, mogu učiniti napad lakšim za izvođenje, ali ne tako pouzdano kao sistem kritičnog rizika, dodaju iz Mete.
O kakvim napadima je ovde riječ?
Meta daje nekoliko primjera, poput „automatizovanog sveobuhvatnog kompromisa korporativnog okruženja zaštićenog najboljom praksom“ i „proliferacije biološkog oružja visokog uticaja“. Lista mogućih katastrofa u Metinom dokumentu daleko je od iscrpne, priznaje kompanija, ali uključuje one za koje Meta vjeruje da su „najhitnije“ i najvjerovatnije da nastanu kao direktan rezultat puštanja moćnog AI sistema.
Pomalo iznenađujuće je da, prema dokumentu, Meta klasifikuje sistemski rizik ne na osnovu bilo kog empirijskog testa, već na osnovu inputa internih i eksternih istraživača koji su predmet pregleda od strane „donosilaca odluka na višem nivou“. Zašto? Meta kaže da ne vjeruje da je nauka o evaluaciji „dovoljno robusna da pruži definitivne kvantitativne metrike“ za odlučivanje o rizičnosti sistema.
Ako Meta utvrdi da je sistem visokorizičan, kompanija kaže da će interno ograničiti pristup sistemu i da ga neće pustiti sve dok ne primjeni mere za ublažavanje kako bi „smanjila rizik na umjerene nivoe“. Ako se, s druge strane, sistem smatra kritičnim rizikom, Meta kaže da će implementirati neodređene sigurnosne zaštite kako bi sprečio eksfiltriranje sistema i zaustavio razvoj dok sistem ne bude postao manje opasan.
Meta-in Frontier AI Framevork, za koji kompanija kaže da će se razvijati sa promjenom AI pejzaža, i koji se Meta ranije obavezala da će objaviti uoči francuskog samita AI akcije ovog mjeseca, izgleda da je odgovor na kritike „otvorenog” pristupa kompanije sistemu za razvoj. Meta je prihvatila strategiju da svoju AI tehnologiju učini otvoreno dostupnom – iako nije otvorenog koda prema uobičajenoj definiciji – za razliku od kompanija kao što je OpenAI koje se odlučuju da svoje sisteme otvore iza API-ja.
Za Metu, pristup otvorenog izdanja pokazao se kao blagoslov i prokletstvo. Porodica AI modela kompanije, nazvana Llama, prikupila je stotine miliona preuzimanja. Ali Lamu je, takođe, navodno koristio najmanje jedan američki protivnik za razvoj odbrambenog ,,chat bot-a”.
Objavljujući svoj Frontier AI Framevork, Meta možda, takođe, želi da uporedi svoju otvorenu AI strategiju sa kineskom AI firmom DeepSeek. DeepSeek, takođe, čini svoje sisteme otvorenim. Ali, AI kompanije ima malo zaštitnih mehanizama i može se lako upravljati da generiše toksične i štetne rezultate.
Preporučeno
„Vjerujemo da je, uzimajući u obzir i koristi i rizike u donošenju odluka o tome kako da se razvije i primjeni napredna vještačka inteligencija, moguće isporučiti tu tehnologiju društvu na način koji čuva prednosti te tehnologije za društvo, uz istovremeno održavanje odgovarajućeg nivoa rizika.”, piše Meta u dokumentu.
Video