Ono što su mnogi predviđali, sada se ostvaruje – hakeri su počeli da koriste vještačku inteligenciju u svojim napadima, a jedan je otišao toliko daleko da se zbog njega oglasio Anthropic, tvorac Claude četbota. Kako tvrdi kompanija, haker je koristio AI da sprovede kriminalnu operaciju kakva do sada nije viđena – od pronalaženja meta do pisanja ucjena.
U izvještaju objavljenom ove nedelje, kompanija Anthropic navela je da je neimenovani haker „upotrebio AI u mjeri koja je bez presedana“ kako bi odabrao, hakovao i ucjenjivao najmanje 17 kompanija.Sajber ucjena, odnosno krađa podataka poput povjerljivih korisničkih informacija ili poslovnih tajni, uobičajena je kriminalna taktika hakera. AI je dio tog posla dodatno olakšao, jer prevaranti koriste četbotove da im pomognu u pisanju fišing mejlova.
Međutim, slučaj koji je otkrio Anthropic prvi je javno dokumentovan primjer da je haker iskoristio četbot jedne velike AI kompanije kako bi gotovo u potpunosti automatizovao čitav niz sajber napada.
Prema blog objavi, operacija je počela tako što je haker uspio da ubijedi Claude Code – četbot specijalizovan za pisanje programa na osnovu jednostavnih zahtjeva (tzv. „vibe coding“) – da identifikuje kompanije ranjive na napad. Claude je zatim kreirao zlonamjerni softver za krađu osjetljivih podataka. Potom je organizovao ukradene fajlove i analizirao ih kako bi odredio šta je zaista važno i čime bi mogao da ucjenjuje žrtve, piše NBC News.
AI je zatim proučio finansijske dokumente hakovanih firmi da bi odredio realan iznos u bitkoinima koji bi mogao da se traži u zamenu za obećanje da se materijal neće objaviti. Takođe je pisao predloge ucenjivačkih mejlova.
Džejkob Klajn, šef odeljenja za obavještajni rad o prijetnjama u Anthropic-u, izjavio je da iza serije napada najvjerovatnije stoji pojedinac izvan SAD, a da su ti napadi trajali oko tri mjeseca.
„Imamo snažne zaštitne mehanizme i više slojeva odbrane za otkrivanje ovakve zloupotrebe, ali ponekad odlučni akteri pokušavaju da zaobiđu naš sistem sofisticiranim tehnikama“, rekao je on.
Anthropic nije želeo da otkrije imena 17 kompanija, ali je naveo da su među njima bili vojni dobavljač, finansijska institucija i više zdravstvenih ustanova. Ukradeni podaci uključivali su brojeve socijalnog osiguranja, bankarske informacije i medicinske podatke pacijenata. Haker je takođe uzeo fajlove povezane sa osjetljivim odbrambenim informacijama koje reguliše američki Stejt department.
Iz Anthropic-a nisu željeli da otkriju kako je haker uspio da do te mjere iskoristi Claude Code, ali su naveli da su uveli dodatne mjere zaštite.
„Iako smo preduzeli korake da spriječimo ovakvu zloupotrebu, očekujemo da će ovaj model postajati sve češći, jer AI značajno snižava prag ulaska u sofisticirane sajber kriminalne operacije“, zaključuje se u izvještaju.
Preporučeno
Video