CNN je, pozivajući se na četiri anonimna izvora, objavio da je američka vojska tokom prolećnog rata sa Iranom umalo presrela kineski trgovački brod na Bliskom istoku zbog pogrešnog izveštaja sastavljenog uz pomoć veštačke inteligencije. Teret je označen kao oprema za nuklearni vojni program. Ako je opis tačan, automatizovana greška stigla je opasno blizu oružane odluke između dve nuklearne sile.
Prema izveštaju, analitičar američke Komande za specijalne operacije na Pacifiku zatražio je od četbota da obradi podatke o brodskom manifestu. Sistem je navodno spojio javne informacije sa tajnim signalno-obaveštajnim podacima i pogrešno prepoznao teret. Analitičar je potom ponovo koristio AI da nalaz upakuje u standardizovani obaveštajni dokument prosleđen kroz vojni aparat.
CNN-ovi izvori tvrde da su naoružani pripadnici već pripremani za ukrcavanje, a vojni avioni podignuti, kada je detaljnija provera otkrila grešku i zaustavila akciju. Pentagon nije potvrdio pojedinosti. „Dejli bistu“ je saopštio da ne komentariše posebne obaveštajne procene i planove, ali da ostaje posvećen strogoj proveri podataka i odgovornoj primeni novih tehnologija.
Slučaj dolazi posle januarske strategije ministra odbrane Pita Hegseta za ubrzano uvođenje AI u američku vojsku. Pentagon je prethodno pokrenuo platformu GenAI.mil, a „Ars tehnika“ navodi da je njegove generativne alate koristilo 1,5 miliona pripadnika Ministarstva odbrane. Američka deklaracija o vojnoj primeni AI iz 2023, međutim, zahteva ljudsku odgovornost u lancu odlučivanja i smanjenje rizika od nesreća.
Urednička ocena je da problem nije samo u grešci četbota, već u tome što je njegova procena dobila izgled i autoritet zvaničnog dokumenta. Obaveštajni rad nikada nije bez grešaka, ali mašina omogućava da netačan zaključak brže prođe kroz sistem. Kada je moguća meta kineski brod, brzina ne sme da zameni višestruku ljudsku proveru. AI može pomoći analitičaru; ne sme postati prečica do oružane naredbe.
Zabranjeno je preuzimanje, kopiranje ili prenošenje teksta, dela teksta ili fotografija sa sajta vesti-online.com bez izričitog navođenja izvora i aktivnog linka ka originalnom tekstu na našem sajtu.
Svako kršenje ovog pravila biće smatrano povredom autorskih prava i biće prijavljeno u skladu sa zakonom.
