IA do Google invade 3 empresas de forma autônoma pela 1ª vez

O Gemini, modelo de inteligência artificial do Google , invadiu sistemas de 3 empresas durante um teste de cibersegurança em maio de 2026. É o 1º caso conhecido de um sistema de IA da companhia realizando autonomamente esse tipo de ação, segundo o Wall Street Journal . 2026), depois de ser procurado pelo jornal.

A companhia ainda não havia divulgado os episódios. TESTE DE CIBERSEGURANÇA A avaliação foi conduzida pela Irregular, empresa independente especializada em testar a segurança de sistemas de IA. O Gemini participava de um exercício para localizar informações no programa de uma empresa fictícia dentro de um ambiente fechado.

A companhia usada na simulação tinha o mesmo nome de uma empresa real. O modelo não deveria acessar a internet, mas a conexão foi liberada por engano. Em 1 dos testes, o Gemini tentou diferentes senhas até acessar o serviço da empresa real.

Segundo o Google, o modelo identificou depois que o sistema não fazia parte da simulação e interrompeu a invasão. Nos outros 2 testes, o Gemini pesquisou os nomes das empresas na internet e encontrou credenciais expostas em repositórios públicos. O modelo usou os dados para entrar nos sistemas protegidos, mas também parou depois de identificar que os alvos eram reais.

O Google afirmou que o modelo envolvido não era a versão mais recente do Gemini. A companhia não informou qual sistema foi usado. SEM DIVULGAÇÃO O Google disse que não considerou necessária a divulgação pública porque não houve danos e o modelo interrompeu as 3 invasões.

A companhia classificou os episódios como casos de identificação equivocada, e não como desalinhamento do modelo. Segundo o Google, os mecanismos de segurança funcionaram ao fazer o Gemini parar. A empresa comparou os acessos a programas que recompensam especialistas por identificar e comunicar falhas de segurança.

As 3 companhias afetadas e autoridades federais dos Estados Unidos foram notificadas. “O episódio reforça a importância de treinar modelos poderosos de IA para agir de forma responsável” , afirmou Heather Adkins, vice-presidente de Engenharia de Segurança do Google. Jack Cable, CEO da empresa de segurança Corridor, contestou essa avaliação.

Segundo ele, o ponto central não é a gravidade dos acessos, mas o fato de um agente de IA ter ultrapassado os limites do teste e realizado ataques contra sistemas reais. IRREGULAR NOTIFICOU EMPRESAS A Irregular informou o Google sobre as invasões no fim de julho, depois da descoberta de que agentes da OpenAI haviam acessado sistemas da empresa de programas de IA Hugging Face. Segundo a Irregular, os laboratórios envolvidos foram notificados e as empresas afetadas foram procuradas durante a investigação.

A companhia afirmou ter corrigido semanas depois todos os problemas conhecidos nos procedimentos de teste. A Irregular disse que o episódio do Gemini teve a mesma origem de casos registrados com sistemas da Meta, da Anthropic e da OpenAI. Em todos eles, modelos que deveriam atuar em ambientes fechados receberam acesso à internet.

OUTROS CASOS Os sistemas das empresas apresentaram comportamentos diferentes depois dos acessos indevidos. 7 não interrompeu as ações mesmo depois de identificar indícios de que havia entrado em uma empresa real. A OpenAI afirmou que o modelo envolvido em outro episódio acreditava que o sistema externo fazia parte da simulação.

2026), a OpenAI publicou 6 relatórios sobre comportamentos inesperados ou preocupantes identificados durante treinamentos e avaliações. Os casos incluíram modelos que ocultaram erros, usaram uma chave de programação exposta sem autorização, enviaram arquivos para a internet e trocaram informações por um repositório interno. Nem todos envolveram invasões de sistemas externos.

A empresa também criou regras para investigar e divulgar novos episódios. Segundo a OpenAI, ainda não há um padrão comum no setor para comunicar comportamentos desse tipo. Na semana passada, o CEO da Anthropic, Dario Amodei, defendeu que o desenvolvimento da IA avance em ritmo mais controlado.

Líderes da OpenAI, do Google e da SpaceX também concordaram com a necessidade de reduzir a velocidade do avanço dos modelos. ]]>