Njih troje govorili su prošle sedmice na konferenciji Ai4 u Las Vegasu, u trenutku kada bezbjednosna pitanja sve više utiču na raspravu o otvorenim modelima vještačke inteligencije. Projekti poput Pacing the Frontier nastoje da uključe velike AI laboratorije u napore da se istraživanje razvija bezbjedno, dok su modeli čiji se parametri javno objavljuju postali jedno od spornih pitanja u industriji.

Takvi modeli, poznati kao open-weight modeli, mogu se slobodno distribuirati i mnogo ih je teže kontrolisati u pogledu načina na koji će biti korišćeni. Zbog toga ih neke kompanije smatraju posebno rizičnim, piše TechCrunch.

Ipak, Hinton, Li i Ng saglasni su da bi koncentracija kontrole nad AI tehnologijom u rukama nekoliko najvećih kompanija mogla predstavljati problem.

Ng je upozorio da bi se u vještačkoj inteligenciji mogao pojaviti sličan obrazac kao na tržištu mobilnih operativnih sistema, gdje kompanije poput Applea i Googlea imaju veliku kontrolu nad platformama, što može usporiti inovacije i omogućiti vlasnicima platformi da utiču na ono što se na njima razvija.

„Ne želim da postoje čuvari kapija. To ograničava način na koji svi možemo pristupiti vještačkoj inteligenciji“, rekao je Ng.

Kompanije, prema njegovom mišljenju, imaju interes da zaštite svoje konkurentske prednosti, uključujući i uticaj na pravila koja uređuju industriju. To bi moglo dovesti do situacije u kojoj samo najveće i finansijski najmoćnije kompanije imaju resurse za razvoj najnaprednijih AI sistema.

Ng zato smatra da treba očuvati više pružalaca usluga i konkurenciju između modela i kompanija, umjesto da nekoliko aktera zavlada tržištem.

„Ako bih morao da dam jedan recept, bio bi da promovišemo otvorenost, jer je AI nevjerovatna tehnologija i želim da bude u rukama svih“, rekao je Ng.

Hinton, međutim, pravi jasnu razliku između open-source softvera i open-weight modela. Kod open-source softvera izvorni kod je dostupan za pregled i izmjene, dok se kod open-weight modela javnosti objavljuju parametri već obučenog AI modela.

„Open source je sjajan. Pokažete ljudima kod, pa mnogo ljudi pregleda linije koda i kaže: ‘Oh, postoji greška.’ Open weights znači da obučite veliki model i onda ljudima date parametre. To je veoma različito“, rekao je Hinton.

On je naveo da je ranije bio protiv javnog objavljivanja parametara jer to omogućava da se veliki osnovni modeli, čija je obuka veoma skupa, uz znatno manje novca dodatno obučavaju za štetne namjene, uključujući sajber napade.

,,TRAJNI DIO RAZVOJA AI-JA”

Ipak, Hinton je priznao da su open-weight modeli već postali trajni dio razvoja vještačke inteligencije.

„Mislim da je ta bitka izgubljena. Sada imamo open-weight modele, tako da je prepreka za veliki broj ljudi da dođu do ovih velikih modela – trošak obuke osnovnih modela – nestala. Prekasno je“, rekao je.

Prihvatanje činjenice da su takvi modeli već široko prisutni, međutim, za Hintona ne znači zanemarivanje rizika. On smatra da će AI nastaviti da napreduje i da je to uglavnom pozitivno, jer bi tehnologija mogla povećati produktivnost i unaprijediti obrazovanje i zdravstvenu zaštitu.

Hinton je istovremeno odbacio ocjene da su oni koji upozoravaju na moguće negativne posljedice AI tehnologije samo „širitelji straha“. Kazao je da je opravdano brinuti zbog mogućih štetnih posljedica i onoga što bi inteligentna bića mogla učiniti ukoliko postanu pametnija od ljudi.

Ng je pitanje postavio drugačije. Prema njegovom mišljenju, nije ključno samo da li otvoreni modeli nose rizik, već ko kontroliše pristup tehnologiji i ko će pobijediti na tržištu. On smatra da će prednost imati onaj ko uspije da napravi jeftiniji model.

Upozorio je i na mogućnost da kineski open-weight modeli postanu široko prihvaćeni u Aziji, Africi i zemljama u razvoju. U tom slučaju, prema njegovim riječima, mogli bi uticati na način na koji milijarde ljudi dolaze u kontakt sa idejama o demokratiji, slobodi i ljudskim pravima.

„Jedna stvar kojoj se nadam jeste da ćemo podstaći američku konkurentnost i open-source AI. Ispostavlja se da je AI ogroman izvor meke moći. Možete vidjeti kako kineski model, na primjer, ima ogroman uspjeh u Africi“, rekao je Ng.

On je izrazio zabrinutost da, zbog lobiranja u Sjedinjenim Američkim Državama i pretjeranog upozoravanja na opasnosti, razvoj američke open-source vještačke inteligencije teško konkuriše open-weight modelima koji dolaze iz Kine.

Ng je dodao da bi, ukoliko Kina pronađe suštinski efikasniji i jeftiniji način razvoja AI, takva tehnologija imala osnovnu poslovnu prednost upravo zbog nižih troškova.

Li se usprotivila takvom načinu postavljanja problema, upozoravajući da je opasno raspravu svesti na izbor između potpune otvorenosti i potpune zatvorenosti.

NUKLEARNA FIZIKA

„Veoma je opasno ovo predstavljati kao dihotomiju između potpune otvorenosti i potpune zatvorenosti“, rekla je Li, ističući da je situacija mnogo složenija i da zahtijeva nijansiran pristup, kako kod kompleksnih softverskih sistema tako i u naučnim sistemima.

Kao primjer navela je nuklearnu fiziku. Naučni radovi se objavljuju otvoreno, ali je uranijum regulisan, dok se laboratorijski rad nalazi negdje između ta dva pristupa.

Prema njenom objašnjenju, to pokazuje da otvorenost ne mora biti odluka „sve ili ništa“. Različiti nivoi AI ekosistema mogu funkcionisati sa različitim stepenima otvorenosti.

Li je ukazala i na saradnju javnih i privatnih institucija, poput Projekta ljudskog genoma. Znanje nastalo kroz taj projekat postalo je osnova na kojoj su drugi mogli dalje da grade, omogućavajući farmaceutskim kompanijama da ostvaruju profit, naučnicima da nastave istraživanja, a društvu da ima korist od rezultata.

AI KAO INFRASTRUKTURA

„Mislim da moramo da koristimo AI kao takvu vrstu infrastrukture“, rekla je Li.

Prema njenim riječima, određeni nivoi otvorenosti potrebni su u naučnim istraživanjima, obrazovanju i međunarodnoj saradnji, kao i za stvaranje poslovnih modela od kojih preduzetnici mogu ostvarivati profit. Istovremeno, prihvatljivi su i sistemi zatvorenog koda.

Li je ocijenila da je rasprava postavljena na način da se može tolerisati samo jedan pristup zapravo pogrešno postavljena. Umjesto toga, smatra da je potreban mnogo nijansiraniji model.

Troje istraživača ipak su se složili da će određeni nivo regulacije biti neophodan kako bi se razvoj vještačke inteligencije usmjerio u poželjnom pravcu.

„Ono što želimo jeste da razvijamo AI u pravcu koji pomaže ljudima, a regulacija će nam pomoći da to uradimo“, rekao je Hinton.

On je dodao da se razvoj vještačke inteligencije ne može prepustiti ljudima poput Ilona Maska i Marka Zakerberga, koji bi, bez odgovarajućih pravila, imali preveliki uticaj na način na koji bi tehnologija trebalo da se razvija.