Erro de IA quase colocou EUA e China em confronto após falsa identificação de carga em navio chinês

Um relatório de inteligência dos EUA, produzido com ajuda de IA, indicou falsamente que um navio chinês no Oriente Médio transportava componentes de um programa de armas nucleares . Segundo fontes ouvidas pela CNN , militares americanos chegaram a preparar uma operação para interceptar a embarcação. A seleção de alvos é uma das áreas em que o uso militar da IA cresce, levantando dúvidas sobre a verificação das informações.

– Imagem: TSViPhoto/Shutterstock O quase conflito evitado por pouco Tropas dos Estados Unidos mobilizaram uma operação de interceptação contra o navio após o relatório circular entre os militares. Soldados armados se preparavam para abordar a embarcação, enquanto aeronaves militares já estavam no ar. A informação havia sido produzida por um analista do Comando de Operações Especiais, que recorreu a um chatbot para analisar relatórios de inteligência sobre o manifesto de carga do navio.

A ferramenta combinou informações de fontes abertas com dados secretos do governo e identificou a carga de maneira incorreta. O erro só foi descoberto momentos antes da operação, quando autoridades analisaram o relatório com mais atenção. O documento foi considerado “totalmente falso” por uma das fontes ouvidas pela CNN, que afirmou que o episódio “quase provocou uma guerra”.

A CNN não conseguiu determinar qual era a carga real da embarcação. Os riscos da automação militar O episódio chama atenção para os riscos do uso de IA na inteligência militar, especialmente na seleção de alvos. Analistas já temiam que informações fracas ou corrompidas pudessem levar a erros de cálculo com consequências graves.

Entre os problemas apontados no caso estão: possibilidade de decisões militares baseadas em informações incorretas; maior confiança de analistas jovens nas respostas das ferramentas; ausência de um conjunto único de normas para verificar informações geradas por IA; diferenças de confiabilidade e funcionamento entre os sistemas usados pelas Forças Armadas e pela comunidade de inteligência. Uma fonte familiarizada com as políticas militares afirmou que “a IA na seleção de alvos é definitivamente algo que está se intensificando, e não há uma orientação real sobre como ter um humano no circuito evitará vítimas civis ou fogo amigo”. Como o Olhar Digital divulgou recentemente , especialistas dos EUA e da China discutem limites para inteligência artificial militar , com foco em armas nucleares, ataques cibernéticos e controle humano, exatamente para evitar que erros como esse aconteçam com maior frequência.

Estariam as superpotências preparadas para evitar tragédias quando algoritmos geram informações incorretas? Imagem:leolintang/Shutterstock A corrida do Pentágono pela tecnologia As Forças Armadas dos EUA vêm ampliando o uso de IA em áreas como análise de grandes volumes de inteligência, seleção de alvos, logística, cadeias de suprimentos e gestão orçamentária. Leia mais: Em breve, número de agentes de IA será maior do que o de todos os seres humanos que já passaram pela Terra IA vai acabar com a humanidade?

Neurocientista rebate hipótese: ‘não tem sentido’ EUA revelam armas orbitais em meio à tensão com China e Rússia Em janeiro, o secretário de Defesa Pete Hegseth anunciou a “Estratégia de Aceleração de Inteligência Artificial” de sua agência. Ao apresentar o plano, afirmou: “Vamos liberar a experimentação, eliminar barreiras burocráticas, focar nossos investimentos e demonstrar a abordagem de execução necessária para garantir nossa liderança em IA militar”. A diretriz também prevê a disponibilização de modelos de IA para os três milhões de funcionários civis e militares do Departamento de Defesa, segundo um memorando sobre o plano.

Desafios para a segurança militar A adoção da tecnologia, porém, ocorre de forma descentralizada. Diferentes setores das Forças Armadas e da comunidade de inteligência usam ferramentas distintas, com regras e padrões de segurança variados. Segundo fontes ouvidas pela CNN, não existe um conjunto único de normas para verificar as informações produzidas por esses sistemas.

Para alguns oficiais experientes, a velocidade da IA também pode aumentar a pressão sobre os analistas para produzir e distribuir informações rapidamente. Uma das fontes resumiu o risco dessa dinâmica: “A IA permite que você chegue a uma ideia ruim mais rápido”. O post Erro de IA quase colocou EUA e China em confronto após falsa identificação de carga em navio chinês apareceu primeiro em Olhar Digital .

]]>