Istraživanja kompanije Tenable otkrila su da se njen najnoviji model, DeepSeek R1, može obmanuti da generiše malver kodove, uključujući keylogger-e i ransomware skripte.

Iako DeepSeek R1 ima ugrađene zaštite koje onemogućavaju direktno generisanje takvih kodova, istraživači su uspjeli da, uz odgovarajuće upite, dobiju osnovne strukture malvera.

Ova otkrića izazivaju zabrinutost zbog potencijalne zloupotrebe vještačke inteligencije u sajber napadima. Iako generisani kodovi nisu potpuno funkcionalni bez dodatnih modifikacija, pružaju dovoljno informacija da čak i manje iskusni korisnici mogu naučiti osnove kreiranja malvera.

Ovakva situacija podseća na slične trendove u kojima su AI alati zloupotrebljavani za kreiranje fišing mejlova, prevođenje teksta i generisanje skripti, čime se stvara uvjerljiviji sadržaj za napade.

DeepSeek čuva korisničke podatke u Kini, gdje zakoni nalažu dijeljenje informacija sa obavještajnim službama na zahtjev, pa postoji dodatna zabrinutost u vezi sa privatnošću i bezbjednošću podataka korisnika.

Povezani članci

Tehnologija

Kina preko DeepSeek-a juriša na globalno AI tržište

Tehnologija

Moćni kineski AI uplašio i ove zemlje: Evo gdje je DeepSeek sada zabranjen

Tehnologija

Jovović za STANDARD o vještačkoj inteligenciji, DeepSeek-u, AI agentima i privatnosti na internetu

U svijetlu ovih saznanja, korisnicima se savjetuje da budu oprezni prilikom interakcije sa AI alatima kao što je DeepSeek, da izbjegavaju dijeljenje osejtljivih informacija i da budu svjesni potencijalnih rizika povezanih sa upotrebom ovih tehnologija.