Ovog proljeća, obavještajno izvješće generirano umjetnom inteligencijom (AI) gotovo je dovelo do oružanog sukoba između Sjedinjenih Američkih Država i Kine. U izvješću je stajalo da kineski brod na Bliskom istoku prevozi komponente namijenjene nuklearnom programu, što je potaknulo hitnu vojnu reakciju SAD-a. Američka vojska pripremala je presretanje plovila, pri čemu su naoružani vojnici bili spremni za upad na brod, a vojni zrakoplovi već su bili u zraku, prema tvrdnjama više izvora upućenih u događaj.

Operacija je zaustavljena u posljednjem trenutku. Dužnosnici su dodatnom provjerom utvrdili da je izvješće, koje je sastavio analitičar Zapovjedništva za specijalne operacije, generirano uz pomoć umjetne inteligencije. Chatbot koji je analitičar koristio pogrešno je protumačio podatke i identificirao teret. Jedan od izvora opisao je izvješće kao "potpuno lažno" i dodao da je "zamalo izazvalo rat", jer bi bilo kakva američka akcija protiv kineskog plovila mogla eskalirati u oružani sukob dviju svjetskih sila.

Incident ukazuje na rizike koji proizlaze iz primjene nove i nedovoljno ispitane tehnologije u ratnim uvjetima. Američka vojska i obavještajna zajednica nastoje integrirati umjetnu inteligenciju u gotovo sve aspekte djelovanja, od analize podataka i odabira ciljeva do logistike i upravljanja proračunom. Analitičari upozoravaju da bi se AI, ako se oslanja na loše ili kompromitirane podatke, mogao koristiti za donošenje katastrofalnih odluka.

U konkretnom slučaju, analitičar je od chatbota zatražio analizu obavještajnih podataka s brodskog manifesta. Podaci su stigli iz Zapovjedništva za specijalne operacije SAD-a na Pacifiku. Softver je povezao javno dostupne informacije s tajnim podacima iz vladinih baza i izveo pogrešan zaključak o teretu. Analitičar je potom istim AI alatom formatirao nalaze u standardni format obavještajnog izvješća i proslijedio ga dalje unutar sustava. Nije poznato je li korišten komercijalni chatbot ili alat koji je razvila američka vlada.

Brza implementacija umjetne inteligencije temelji se na uvjerenju da ona vojsci može omogućiti brže donošenje odluka na bojištu. Dužnosnici smatraju da si SAD ne smije dopustiti zaostatak za Kinom ili drugim protivnicima koji bi mogli biti tehnološki napredniji. Ministar obrane Pete Hegseth u siječnju je predstavio "Strategiju ubrzanja primjene umjetne inteligencije", koja nalaže široku primjenu AI-ja u cijeloj vojsci. Cilj je "demokratizirati eksperimentiranje" i omogućiti transformaciju unutar Ministarstva, predviđajući da se vodeći svjetski AI modeli stave na raspolaganje za tri milijuna civilnih i vojnih djelatnika. Problem je, međutim, što je taj proces decentraliziran, s različitim dijelovima vlade koji koriste različite alate pod različitim zapovjedništvima i sigurnosnim standardima, bez jedinstvenog sustava pravila za provjeru generiranih informacija.