Stručnjaci su otkrili opasnu ranjivost u Microsoft-ovoj vkeštačkoj inteligenciji (Copilot) koja je napadačima omogućavala da jednim klikom izvuku privatne podatke i kodove iz korisničkih imejlova.
Microsoft je hitno zakrpio propust u svom biznis paketu M365 Copilot, nakon što su bezbjednosni istraživači otkrili napad nazvan SearchLeak, prenosi B92.
Ispostavilo se da ovaj AI asistent pati od ,,urođene lakovernosti”. On, naime, ne umije da razlikuje komande koje mu zadaje stvarni vlasnik naloga od skrivenih, zlonamjernih uputstava koja se nalaze u tuđim mejlovima, dokumentima ili linkovima koje AI analizira.
NAPAD JEDNOSTAVAN
Napad je bio zastrašujuće jednostavan za krajnjeg korisnika:
- Napadač pošalje žrtvi imejl sa specijalno napravljenim linkom.
- Korisnik ne mora ništa da kuca – dovoljno je samo da klikne na link.
PREVARILI ZAŠTITU
Microsoft je ranije postavio zaštite koje sprečavaju AI da šalje podatke nepoznatim sajtovima, ali su hakeri pronašli trik.
Iskoristili su trenutak prije nego što AI sistem ,,razmisli” i primijeni zaštitu, i progurali podatke kroz privremeni kod unutar internet pretraživača.
OGROMNA ŠTETA FIRMAMA
Pošto je ovaj sistem namijenjen uglavnom firmama, radijus štete je ogroman.
Hakeri su na ovaj način mogli da pristupe svemu što zaposleni vidi: poslovnim mejlovima, kalendarima, sastancima, bilješkama, kao i dokumentima na SharePointu i OneDrive-u.
SISTEMSKA MANA AI-JA
Iako je Microsoft brže-bolje riješio ovaj konkretan problem, stručnjaci upozoravaju da je ovo sistemska mana vještačke inteligencije.
Pošto još uvijek ne postoji način da se AI nauči da razlikuje dobre od loših naredbi unutar dokumenata, hakeri će prije ili kasnije pronaći novi način da zaobiđu zaštitne ograde.
Preporučeno
Video