Agentes da OpenAI foram ligados a mais de 15 incidentes; investigação deve durar vários meses

A OpenAI ainda tenta dimensionar a atuação indevida de seus agentes de IA . O processo ganhou escala depois que um incidente envolvendo o Hugging Face levou a empresa a revisar outros registros e encontrar novos episódios. Mais de 15 casos já foram divulgados pela OpenAI ou por pesquisadores externos.

Pessoas informadas sobre a apuração estimavam, em meados de setembro, que a empresa havia identificado cerca de duas dezenas de ocorrências. O número interno continuou crescendo com a análise dos registros. A OpenAI estima que a revisão dos incidentes levará meses devido à quantidade de registros que precisam ser analisados.

– Imagem: tadamichi/iStock Os primeiros casos vieram à tona Antes mesmo do episódio do Hugging Face, agentes da OpenAI já haviam apresentado comportamentos fora do esperado. Entre abril e junho, por exemplo, sistemas da empresa fizeram mais de 16 mil acessos a um hub público de dados da Conferência das Nações Unidas sobre Comércio e Desenvolvimento (UNCTAD). Como mostrou o Olhar Digita l, um relatório independente apontou que os agentes contornaram um filtro que bloqueava determinadas solicitações e utilizaram uma técnica não permitida pelos operadores do site.

A OpenAI afirmou que estava analisando o caso e entrou em contato com a ONU . Em 21 de julho, veio à tona outro episódio: agentes da OpenAI haviam escapado de seus ambientes de controle e atacado o Hugging Face durante uma tarefa de teste. Os sistemas exploraram vulnerabilidades de software para deixar suas redes e acessar o repositório de inteligência artificial.

A partir da investigação, outros episódios começaram a aparecer. Entre os casos divulgados estão: vazamento de 53 imagens de usuários do ChatGPT; acesso a informações de sites do governo dos EUA; tentativa frustrada de invasão de um site do Departamento de Educação americano; contorno de mecanismos anti-robô do Australian Institute of Health and Welfare; uso de um wiki alemão praticamente abandonado para compartilhar estratégias destinadas a contornar restrições da OpenAI. A empresa afirmou que muitos dos casos identificados por pesquisadores externos já apareciam, em diferentes estágios, em sua análise interna.

Imagens de usuários e sites governamentais Na sexta-feira, a OpenAI informou que agentes haviam vazado 53 imagens de usuários do ChatGPT . A empresa não revelou se eram imagens geradas por IA ou de pessoas reais, nem quando foram publicadas. Parte dos dados de usuários é usada de forma anonimizada no treinamento dos modelos.

Antes disso, os conteúdos passam por um processo que remove metadados, nomes e informações de contato. Dados corporativos não são elegíveis para treinamento, enquanto usuários do ChatGPT precisam optar por não permitir esse uso. Pessoas familiarizadas com as práticas da empresa disseram que informações pessoais podem não ser totalmente removidas e acabar expostas durante a atuação dos modelos.

A maior parte das imagens já foi retirada do ar, e a OpenAI informou ter avisado dezenas de terceiros. Nos Estados Unidos, a empresa disse que seus modelos acessaram informações dos sites da SEC e do Census Bureau durante atividades de pesquisa e treinamento. Segundo a OpenAI, não foram encontradas evidências de acesso não autorizado, contas comprometidas ou violações de segurança.

A Transluce também afirmou que agentes aparentemente originados da OpenAI tentaram invadir, sem sucesso, um site do Departamento de Educação voltado a direitos civis. A OpenAI publicou uma estrutura para divulgar incidentes e afirmou que adotará uma postura mais transparente. Imagem: Pungu x / Shutterstock – Imagem: Pungu x / Shutterstock Casos continuam surgindo A sequência não terminou nos Estados Unidos.

A Transluce relatou que agentes da OpenAI contornaram mecanismos anti-robô do Australian Institute of Health and Welfare. O primeiro-ministro australiano, Anthony Albanese, afirmou que agentes da empresa invadiram um portal governamental de dados de saúde em junho. Leia mais: OpenAI suspende treinamento de IA após agentes agirem por conta própria em sites dos EUA OpenAI amplia revisão de comportamento de modelos de IA após novos incidentes Aconteceu de novo!

OpenAI admite que agentes de IA vazaram mais de 50 imagens de usuários do ChatGPT na internet Em 16 de setembro, a OpenAI publicou uma estrutura para divulgar incidentes desse tipo e afirmou que adotaria uma postura de transparência “mesmo quando a importância for incerta”. A empresa disse ainda que prioriza os casos mais graves. Duas pessoas familiarizadas com a apuração descreveram o processo como restrito e moldado pela atuação de advogados.

A OpenAI afirmou que seus advogados não desencorajaram uma investigação mais ampla. Desde o episódio do Hugging Face, Anthropic, Google e Meta também relataram comportamentos semelhantes em seus agentes. A sequência de casos mantém em discussão os limites de controle sobre sistemas de IA capazes de executar tarefas com maior autonomia.

O post Agentes da OpenAI foram ligados a mais de 15 incidentes; investigação deve durar vários meses apareceu primeiro em Olhar Digital . ]]>