Video
U ekskluzivnom intervjuu za BBC, Luis Mosli, šef Palantir-ra za Veliku Britaniju i Evropu, branio je ulogu platforme Maven Smart System.
Ovaj sistem, koji koristi vještačku inteligenciju za analizu ogromne količine podataka sa satelita i dronova, postao je ključan alat Pentagona za planiranje napada, prenosi B92.
UPOZORENJE ANALITIČARA
Kritičari i analitičari upozoravaju da brzina kojom AI procesira mete ostavlja vojnom osoblju premalo vremena za ,,smislenu provjeru” informacija. To, prema njihovim riječima, direktno vodi ka riziku od pogađanja pogrešnih ciljeva.
POGREŠNO SHVAĆENA ULOGA AI-JA
Ipak, Mosli tvrdi da je uloga AI-ja pogrešno shvaćena.
,,Uvijek postoji čovjek u lancu odlučivanja (human in the loop). To je sistem podrške koji omogućava sintezu podataka koje bi ljudi ranije morali ručno da obrađuju satima. Konačna odluka je uvijek na vojsci”, jasan je Mosli.
Povod za oštriju debatu su izvještaji o američkim udarima u Iranu. Od kraja februara, SAD su izvele više od 11.000 napada, od kojih je veliki broj identifikovao upravo sistem Maven.
OPASNOST
Dok vojska hvali sistem jer omogućava ,,donosenje pametnijih odluka brže od neprijatelja”, profesorka Elke Švarc sa Univerziteta Kvin Meri u Londonu upozorava na opasnost:
,,Prioritizacija brzine i obima upotrebe sile ostavlja minimalno vrijeme za provjeru da li su među metama i civili. Ako kritičko razmišljanje povjerite softveru, postajete zavisni od njega. To je trka do dna.”
PITANJE ODGOVORNOSTI
Pitanje odgovornosti postalo je urgentno nakon tragičnog napada na školu u iranskom gradu Minabu, gde je prema tvrdnjama iranskih zvaničnika poginulo 168 osoba, uključujući 110 djece.
Pentagon je odbio da komentariše da li je Maven korišćen za identifikaciju, te konkretne mete, pozivajući se na operativnu bezbjednost.
ANTHROPIC-OVE ALTERNATIVE
Zanimljivo je da je Pentagon nedavno prekinuo saradnju sa kompanijom Anthropic, čiji je AI model ,,Claude” djelimično pokretao Maven, jer je kompanija odbila da dopusti korišćenje svoje tehnologije za autonomno oružje.
Palantir je brzo odgovorio da već postoje alternative koje mogu zamijeniti ovaj model.
Preporučeno
Uprkos kontroverzama, Pentagon je prošle nedjelje označio Maven kao ,,zvanični program od rekorda”, što znači da će ova tehnologija postati trajni i integralni dio američke vojne infrastrukture u svim domenima ratovanja.
