Erro de IA quase causa guerra entre EUA e China, diz CNN

Um erro cometido por um chatbot de inteligência artificial quase provocou um confronto militar direto entre Estados Unidos e China. A informação é de reportagem exclusiva da CNN, publicada nesta sexta-feira (18), com base em relatos de quatro fontes que acompanharam o episódio de perto.

Segundo a CNN, um analista do Comando de Operações Especiais do Pacífico dos Estados Unidos, sediado no Havaí, consultou uma ferramenta de IA para checar o manifesto de carga de um navio chinês que navegava pelo Oriente Médio. O sistema cruzou dados de fontes abertas com informações sigilosas de inteligência de sinais e concluiu, de forma equivocada, que a embarcação transportava componentes de um programa de armas nucleares.

Com base nesse relatório, as Forças Armadas dos EUA chegaram a se preparar para interceptar o navio. De acordo com a CNN, militares já estavam prontos para abordar a embarcação e aviões haviam decolado quando a informação foi identificada como falsa e a operação foi interrompida.

"Totalmente falso", mas "quase provocou uma guerra" — foi como uma das fontes descreveu o episódio à CNN. Outra pessoa ouvida pela reportagem, um ex-alto funcionário familiarizado com sistemas de IA usados pelas Forças Armadas americanas, confirmou detalhes do incidente.

Nem a CNN nem o site americano Engadget, que também apurou o caso de forma independente, conseguiram identificar qual ferramenta de inteligência artificial foi usada pelo analista — se comercial ou desenvolvida especificamente para o governo dos Estados Unidos. Também não foi possível apurar qual era, de fato, a carga real transportada pelo navio chinês.

Procurados pela CNN, o Pentágono e o Comando de Operações Especiais do Pacífico não responderam aos pedidos de comentário sobre o episódio.

A revelação repercutiu rapidamente fora dos Estados Unidos. Veículos como o CNN Portugal, o britânico IBTimes UK e o americano Gizmodo republicaram trechos da apuração original, destacando o caráter inédito de um erro de IA ter chegado tão perto de desencadear uma ação militar direta entre duas potências com armas nucleares.

O caso reacende o debate sobre os riscos do uso de inteligência artificial em decisões militares sensíveis. Modelos de IA generativa são conhecidos por apresentar "alucinações" — respostas erradas apresentadas com aparência de certeza —, um problema que já preocupa em aplicações civis e que, neste episódio, quase teve consequências num contexto de segurança nacional.

Nos últimos anos, o Pentágono e outras agências de defesa dos Estados Unidos vêm ampliando o uso de ferramentas de IA para acelerar a análise de grandes volumes de dados de inteligência. Especialistas em segurança nacional alertam que a velocidade prometida por esses sistemas pode vir acompanhada de erros graves quando não há verificação humana rigorosa antes de decisões operacionais.

O episódio ocorre em meio a um momento de tensão entre Washington e Pequim em diversas frentes, da disputa comercial à competição tecnológica, o que amplia o risco de que um mal-entendido pontual escale para uma crise maior entre as duas potências.