Video
Šmit, koji je vodio Gugl od 2001. do 2011. godine, govorio je na samitu Sifted o „lošim stvarima koje vještačka inteligencija može da uradi”, naglašavajući da prijetnje prevazilaze teorijske diskusije, izvještava CNBC.
Na pitanje da li je vještačka inteligencija razornija od nuklearnog oružja, Šmit je potvrdio da rizik od širenja i zloupotrebe svakako postoji.
– Da li postoji potencijal za probleme sa širenjem vještačke inteligencije? Apsolutno – rekao je, objašnjavajući da to uključuje rizik da tehnologija padne u ruke zlonamjernih aktera.
– Postoje dokazi da možete uzeti modele, zatvorene ili otvorene, i hakovati ih da biste uklonili njihove mehanizme zaštite. Dakle, tokom obuke uče mnogo stvari. Loš primjer bi bio da su naučili kako da ubiju nekoga – rekao je Šmit.
Objasnio je da velike tehnološke kompanije pokušavaju da spriječe takve scenarije, ali uvijek postoji rizik.
– Sve velike kompanije sprečavaju ove modele da odgovore na to pitanje. Dobra odluka. Svi to rade. Rade to dobro i rade to iz pravih razloga. Postoje dokazi da se zaštita može zaobići obrnutim inženjeringom, a postoji i mnogo drugih primjera te prirode – kazao je Šmit.
Među metodama hakovanja vještačke inteligencije, ističu se brzo ubrizgavanje i takozvani „džejlbrejk”. Prva metoda uključuje skrivanje zlonamernih instrukcija kako bi se vještačka inteligencija prevarila da otkrije privatne podatke, dok druga manipuliše sistemom da ignoriše bezbjednosna pravila i generiše opasan sadržaj.
Primjer za to je alter ego ChatGPT-a pod nazivom DAN (Uradi bilo šta sada), koji je 2023. godine zaobišao bezbjednosne protokole i pružio odgovore o ilegalnim aktivnostima.
Uprkos mračnim upozorenjima, Šmit je takođe pokazao optimizam, tvrdeći da je vještačka inteligencija zapravo potcijenjena tehnologija.
– Napisao sam dvije knjige sa Henrijem Kisindžerom o ovome prije nego što je umro, i došli smo do zaključka da je dolazak vanzemaljske inteligencije koja nije u potpunosti mi i koja je manje-više pod našom kontrolom veoma velika stvar za čovječanstvo – rekao je.
Brzina kojom je ChatGPT dostigao 100 miliona korisnika za samo dva mjeseca, prema Šmitu, pokazuje moć tehnologije.
– Zato mislim da je potcijenjen, a ne precijenjen, i radujem se što ću biti u pravu za pet ili deset godina – dodao je.
Takođe se osvrnuo na strahove od „mjehura vještačke inteligencije”, sličnog onom koji je pukao početkom 2000-ih tokom ere dot-koma. Šmit ne vjeruje da će se istorija ponoviti.
Preporučeno
– Ono što znam jeste da ljudi koji ulažu svoj teško zarađeni novac vjeruju da je ekonomski prinos na duži rok ogroman. Zašto bi inače rizikovali – zaključio je Šmit.
