U razgovoru za britanski “Guardian” istakao je da ga posebno zabrinjavaju autonomni AI agenti koji mogu samostalno obavljati niz zadataka, zaobilaziti kontrolne mehanizme i pokretati hakerske napade.
– Ili krajem ove ili sljedeće godine vidjećemo Černobil, i to bi moglo biti dovoljno da ljudi zaista obrate pažnju – izjavio je Hinton.
Ne misli na novu nuklearnu nesreću, već na incidente poput masovnog nestanka struje ili paralize finansijskog sistema zbog neispravnog funkcionisanja vještačke inteligencije.
S njegovom procjenom ne slaže se ruski stručnjak Roman Duškin, koji smatra da Hinton nije objasnio konkretan mehanizam kojim bi AI mogla izazvati takvu katastrofu.
Upozorava i da poznavanje neuronskih mreža ne znači automatski i razumijevanje složenih energetskih sistema.
Preporučeno
Duškin smatra da su potrebna precizna naučna i inženjerska objašnjenja, a ne samo dramatična predviđanja. Hintonovo upozorenje tako je ponovo otvorilo raspravu o granicama ljudske kontrole nad vještačkom inteligencijom i mogućim posljedicama njenog razvoja.















