Video
,,Nažalost, postoji veoma kompetitivna trka između vodećih laboratorija, što ih gura ka fokusiranju na sposobnosti kako bi AI bila sve inteligentnija, ali ne nužno dovoljno naglašavaju i ulažu u istraživanje bezbjednosti”, rekao je Bendžio za Financial Times.
Bendžio, kog zovu još i ,,kum vještačke inteligencije”, nedavno je pokrenuo LawZero, neprofitnu organizaciju podržanu sa skoro 30 miliona dolara filantropskih sredstava, sa misijom da prioritet da bezbjednosti i transparentnosti AI iznad profita, prenosi sajt Tech Spot.
Grupa sa sejdištem u Montrealu obećava da će ,,izolovati” svoje istraživanje od komercijalnih pritisaka i izgraditi AI sisteme usklađene sa ljudskim vrijednostima. U okruženju koje nema smislenu regulaciju, takvi napori mogu biti jedini put ka etičkom razvoju.
Nedavni primjeri ističu rizike. Anthropicov Claude Opus model je u scenariju testiranja ucjenjivao inženjere, dok je OpenAI-ev o3 model odbio eksplicitne komande za isključivanje. Ovo nisu samo greške – Bendžio ih vidi kao jasne znakove nastajuće strateške obmane. Ako se ne projvere, takvo ponašanje bi moglo da eskalira u sisteme koji aktivno rade protiv ljudskih interesa.
Pošto vladina regulativa uglavnom izostaje, komercijalne laboratorije efektivno postavljaju svoja pravila, često dajući prioritet profitu iznad javne bezbjednosti. Bendžio upozorava da je ovaj ,,laissez-faire” igranje vatrom – ne samo zbog obmanjujućeg ponašanja već i zato što bi AI uskoro mogla da omogući stvaranje ,,izuzetno opasnog biološkog oružja” ili drugih katastrofalnih rizika.
LawZero ima za cilj da izgradi AI koja ne samo da odgovara korisnicima već i transparentno razmišlja i označava štetne rezultate. Bendžio zamišlja modele koji nadziru i poboljšavaju postojeće sisteme, sprječavajući ih da djeluju obmanjujuće ili izazivaju štetu. Ovaj pristup je u oštroj suprotnosti sa komercijalnim modelima, koji prioritet daju angažmanu i profitu iznad odgovornosti.
Preporučeno
,,Najgori scenario je izumiranje čovječanstva. Ako izgradimo AI koja je pametnija od nas i nije usklađena sa nama i takmiči se sa nama, onda smo u suštini gotovi”, rekao je Bendžio.
