Exclusivo: militares dos EUA tiveram incidente grave após uso de IA em relatório de inteligência falso, dizem fontes

Um relatório de inteligência que circulou pelas Forças Armadas dos Estados Unidos nesta primavera, em meio à guerra com o Irã, imediatamente acendeu o alerta: um navio chinês no Oriente Médio estaria transportando componentes de um programa de armas nucleares.

Os militares americanos iniciaram preparativos para interceptar a embarcação, segundo quatro fontes familiarizadas com o episódio. De acordo com duas delas, integrantes armados das Forças Armadas dos EUA estavam se preparando para abordar o navio. Aeronaves militares já haviam decolado, disseram uma dessas fontes e outra pessoa com conhecimento do caso.

Foi apenas pouco antes da operação planejada que autoridades investigaram mais profundamente o relatório, elaborado por um analista de um comando de operações especiais, e descobriram que ele havia sido gerado com a ajuda de inteligência artificial (IA). Além disso, um chatbot utilizado pelo analista identificou erroneamente a carga transportada pelo navio. A CNN não conseguiu apurar qual era o carregamento que foi confundido.

Segundo uma das fontes, o relatório era “inteiramente falso”. Mas ele também “quase iniciou uma guerra”, afirmou essa pessoa. Qualquer operação dos EUA contra uma embarcação chinesa poderia ter desencadeado um conflito armado entre as duas potências.

Em todo o aparato militar e de inteligência dos EUA, autoridades têm impulsionado a integração da IA em praticamente todas as áreas de atuação, desde a análise dos enormes volumes de dados de inteligência coletados pelo país e a seleção de alvos para ataques, até tarefas mais rotineiras, como gestão orçamentária, logística e cadeias de suprimentos.

Mas o episódio evidencia os riscos profundos de utilizar essa tecnologia poderosa, nova e ainda relativamente pouco compreendida para definir operações militares em meio a uma guerra. Há anos, analistas alertam que a IA pode provocar erros catastróficos de cálculo caso governos baseiem suas decisões em dados incorretos ou corrompidos, erro que poderia levar os Estados Unidos a atacar um navio chinês com base em informações falsas.

Nesse caso específico, o analista consultou um chatbot sobre relatórios de inteligência relacionados ao manifesto de carga do navio. Os dados haviam sido produzidos pelo Comando de Operações Especiais dos EUA para o Pacífico, sediado no Havaí. Não está claro se o chatbot era uma ferramenta comercial ou um produto desenvolvido pelo governo americano.

“As ferramentas internas são, em grande parte, apenas cópias dos sistemas comerciais com uma maquiagem diferente”, disse uma ex-alta autoridade dos EUA familiarizada com os sistemas de IA utilizados por analistas militares e de inteligência.

O chatbot combinou informações de fontes abertas com dados secretos de inteligência de sinais mantidos pelo governo e chegou à conclusão equivocada sobre a natureza da carga transportada pelo navio.

Depois disso, o analista utilizou IA novamente para formatar as conclusões em um relatório de inteligência padrão, do tipo que costuma ser considerado confiável pelas autoridades militares, e o distribuiu.

O Comando de Operações Especiais dos EUA para o Pacífico e o Pentágono não responderam aos pedidos de comentário da CNN.

A justificativa para a rápida adoção da IA é que ela pode ajudar os militares a tomar decisões em campo de batalha mais rapidamente, como escolher quais alvos atacar ou quais recursos militares deslocar. Autoridades afirmam que os EUA não podem correr o risco de ficar para trás na integração da tecnologia caso precisem enfrentar a China ou outro adversário capaz de obter vantagem tecnológica.

Em janeiro, o secretário de Defesa Pete Hegseth divulgou a “Estratégia de Aceleração da Inteligência Artificial” do Departamento de Defesa com o objetivo de acelerar o uso da IA pelas Forças Armadas.

“Nós vamos liberar a experimentação, eliminar barreiras burocráticas, concentrar investimentos e demonstrar a abordagem de execução necessária para garantir a liderança em IA militar”, disse Hegseth ao anunciar a estratégia.

O plano também incentiva o uso amplo da tecnologia em toda a estrutura militar, determinando que a IA seja disponibilizada por meio de vários programas com o objetivo de “democratizar a experimentação e a transformação com IA em todo o departamento, colocando os modelos de inteligência artificial líderes mundiais dos Estados Unidos diretamente nas mãos de nossos três milhões de funcionários civis e militares, em todos os níveis de classificação”, afirma um memorando sobre a estratégia.

No entanto, segundo várias autoridades americanas familiarizadas com o tema, o esforço é descentralizado. Diferentes áreas do governo utilizam ferramentas distintas, sob regras e padrões de segurança diferentes. Não existe um conjunto único de normas para verificar as informações produzidas por esses sistemas. Como resultado, a confiabilidade e a funcionalidade variam amplamente entre os diversos programas de IA empregados pelos setores militar e de inteligência.

Nas últimas semanas, formuladores de políticas em Washington têm debatido intensamente os riscos da inteligência artificial após uma série de alertas feitos por engenheiros do Vale do Silício e executivos de tecnologia sobre a possibilidade de a IA escapar ao controle humano, com consequências potencialmente catastróficas para a civilização.

Mas o episódio envolvendo o navio chinês destaca um risco diferente e mais imediato: seres humanos tomarem decisões desastrosas com base em informações incorretas ou enganosas produzidas por IA ou outros sistemas automatizados. Segundo fontes, os militares estão recorrendo cada vez mais à IA para ajudar na definição de alvos militares, área em que os riscos de erros fatais são evidentes.

“O uso da IA em operações de seleção de alvos está claramente aumentando e não existe uma orientação real sobre como a supervisão humana evitará mortes de civis ou casos de fogo amigo”, afirmou outra fonte familiarizada com as políticas atuais dos militares americanos.

O tipo de “alucinação” cometido pela ferramenta usada nesse caso não foi um incidente isolado na comunidade de inteligência desde que essas tecnologias começaram a se espalhar pelo governo, segundo uma das fontes.

Para alguns veteranos da área de inteligência, inclusive defensores do uso da IA nas Forças Armadas, a tecnologia tem aumentado a pressão sobre os analistas para produzir e divulgar informações mais rapidamente, abrindo espaço para erros. Fontes afirmam que analistas mais jovens, acostumados desde cedo a essas ferramentas, tendem a confiar nelas de forma menos crítica.

“A IA permite chegar mais rápido a uma ideia ruim”, resumiu uma das fontes.

Fique por dentro das principais notícias do dia no Brasil e no mundo. Siga o canal do R7, o portal de notícias da RECORD, no WhatsApp