Povratak modela uslijedio je nakon razgovora sa američkom vladom, a kompanija je u međuvremenu uvela novi sistem klasifikatora koji bi trebalo efikasnije da prepoznaje i blokira zahtjeve povezane sa sajber bezbjednošću i potencijalnom zloupotrebom vještačke inteligencije, navodi se u saopštenju.
Zbog novih zaštitnih mehanizama pojedini uobičajeni zadaci, poput programiranja i otklanjanja grešaka u kodu, privremeno će se obrađivati putem modela Opus 4.8, prenosi B92.
Iz Anthropic-a navode da će klasifikatori narednih nedjelja biti dodatno unapređivani kako bi se smanjio broj lažno pozitivnih blokada i preciznije razlikovali legitimni zahtjevi od pokušaja zloupotrebe.
Na projektu rade zajedno sa kompanijama Amazon, Microsoft, Google i ostalim partnerima u okviru inicijative Glasswing, a pozvali su i druge AI kompanije da se priključe.
PROŠIRENJE SARADNJE
Anthropic je takođe najavio proširenje saradnje sa američkom vladom na testiranju novih AI modela i bezbjednosnih mehanizama.
Saradnja će obuhvatiti pristup modelima pre njihovog objavljivanja, razmjenu informacija o pokušajima zloupotrebe, kao i zajednička istraživanja u oblasti bezbjednosti veštačke inteligencije.
Preporučeno
Video