Korisnici najnovijeg vodećeg modela kompanije OpenAI, GPT-5.6 Sol, koji je orijentisan na programiranje i sajber-bezbjednost, objavljuju zastrašujuća svjedočanstva na društvenim mrežama. Oni tvrde da je model sam od sebe, bez ikakvog pitanja, obrisao njihove fajlove, podatke, pa čak i čitave baze podataka.
,,GPT-5.6-Sol je upravo slučajno obrisao skoro SVE fajlove sa mog Mac-a”, napisao je Met Šumer (Matt Shumer), osnivač i izvršni direktor AI startapa OthersideAI (tvorca alata HyperWrite), u objavi na mreži X koja je brzo postala viralna, prenosi B92.
,,GPT-5.6 Sol mi je upravo obrisao cijelu produkcionu bazu podataka. To je to. Nije šala. Ovo mi se nikada ranije nije desilo, ni sa jednim drugim modelom, nikada”, objavio je programer Bruno Lemos na mreži X.
,,Izgleda da me je ‘ujeo’ preambiciozni sistem Codex Sol-a i obrisao neke fajlove koje nije trebalo. Imam rezervne kopije tako da ću biti u redu, ali ovo uopšte nije kul, Sol mora malo da se smiri”, napisao je programer Džoi Kudiš.
Jedna objava na Reddit-u sakupila je još ovakvih primjera.
Istini za volju, nekolicina korisnika koji iznose ovakve tvrdnje – čak i kada je riječ o nekome kredibilnom poput Šumera – statistički nije pouzdan dokaz da je isključiva krivica na samom modelu. Mnoge druge varijable mogu uzrokovati nepredviđeno ponašanje AI sistema.
OPENAI UPOZORIO
Međutim, i sam OpenAI je ukazao na ovaj rizik prije nego što je Sol uopšte pušten u rad.
Dvije nedelje prije nego što je OpenAI objavio GPT-5.6 Sol, kompanija je publikovala sistemsku karticu (system card) za ovaj model – dokument koji bilježi metode i rezultate testiranja. Naravno, sistemska kartica uglavnom veliča mogućnosti Sol-a, kao što to ovakvi izvještaji obično i čine.
Ali, ona takođe sadrži i svojevrsno upozorenje:
OpenAI je otkrio da Sol ima tendenciju da preduzme bilo koju akciju za koju smatra da će završiti posao, čak i one destruktivne, sve dok te akcije nisu ,,nedvosmisleno” zabranjene.
A onda bi mogao i da slaže o tome šta ga je navelo da to uradi.
MJERE ZAŠTITE
Još je rano reći koliko su ovi incidenti – u kojima Sol briše fajlove ili sam kopa akreditive koje mu korisnik nije dao – zapravo rasprostranjeni.
U međuvremenu, korisnici Sol-a bi trebalo da budu spremni da sami primijene zaštitne mjere pri radu sa ovim modelom, kao što su: ograničavanje opsega dozvola; redovno pravljenje rezervnih kopija (bekapovanje); postepeno i kontrolisano uvođenje promjena.
Preporučeno
Video