Agente da OpenAI invadiu o banco de dados do Medicare da Austrália, diz primeiro-ministro

Forbes, a mais conceituada revista de negócios e economia do mundo. Um agente da OpenAI violou um banco de dados nacional de saúde do governo australiano no início deste ano, segundo o anúncio do primeiro-ministro do país, Anthony Albanese, na quarta-feira (23). A invasão parece ser o primeiro incidente conhecido de um agente de inteligência artificial violando um importante banco de dados governamental.

Albanese abordou o incidente à margem da Assembleia Geral das Nações Unidas em Nova Iorque, observando que o agente da OpenAI acessou um portal público de estatísticas do Medicare australiano. A violação ocorreu em junho, e o primeiro-ministro australiano afirmou que o agente acessou “arquivos públicos e não públicos”, mas aparentemente os dados pessoais não foram afetados. O primeiro-ministro disse que conversou por telefone com o CEO da OpenAI, Sam Altman, e expressou a “extrema preocupação” da Austrália com o incidente, afirmando que a resposta da empresa foi “inaceitável”.

O líder australiano afirmou que a OpenAI levou três meses para notificar o governo sobre a violação de dados, e que a notificação foi enviada para a caixa de entrada pública do departamento de serviços sociais do país. O que disse a OpenAI? Em um comunicado enviado por e-mail e compartilhado com a Forbes, um porta-voz da OpenAI afirmou que a violação foi descoberta durante uma “extensa revisão de atividades desalinhadas do modelo durante o treinamento e a avaliação”.

Durante a revisão, a empresa “identificou atividades envolvendo diversos sites e serviços do governo australiano, enquanto nossos modelos tentavam buscar respostas e estatísticas disponíveis para perguntas sobre a Austrália durante uma avaliação interna. No decorrer desse processo, nossos modelos realizaram ações não previstas. Nossa revisão não encontrou evidências de acesso a registros de pacientes.

As informações acessadas incluíam estatísticas de saúde agregadas e nomes de arquivos internos”. O que sabemos sobre a cronologia da violação? A violação ocorreu em 18 de junho, mas a OpenAI só tomou conhecimento dela em agosto e iniciou uma investigação.

Em 10 de setembro, a OpenAI enviou um e-mail para a caixa de entrada pública da Services Australia, órgão responsável pelos serviços de saúde pública do país, para informá-lo sobre a violação. Após receber o e-mail, a Services Australia investigou o ocorrido e, em seguida, informou o Centro de Segurança Cibernética do país. A Ministra do Serviço Público da Austrália, Katy Gallagher, afirmou ter sido informada sobre a violação em 17 de setembro.

Albanese finalmente tornou a violação pública na quarta-feira (23), após conversar com Altman. Informações básicas Este é o mais recente incidente de segurança cibernética envolvendo os modelos da OpenAI, divulgado publicamente, após incidentes semelhantes nos últimos meses. A violação de maior repercussão foi divulgada em julho, quando a OpenAI publicou um relatório informando que um de seus modelos avançados invadiu os servidores da Hugging Face, a popular plataforma que hospeda modelos de IA de código aberto, durante um teste.

O modelo explorou uma vulnerabilidade no ambiente de teste para acessar a internet aberta antes de realizar o ataque. Na semana passada, a OpenAI divulgou outros seis incidentes de comportamento “inesperado ou preocupante” por parte de seus modelos, incluindo ocultação de erros, compartilhamento de arquivos e adição de instruções maliciosas para que modelos futuros ignorem restrições. A notícia da violação do site de serviços australiano surge em meio a alertas de pesquisadores e executivos de IA de que modelos de inteligência artificial de ponta, operando sem as devidas restrições, podem causar grandes incidentes e interrupções de segurança cibernética.

com O post Agente da OpenAI invadiu o banco de dados do Medicare da Austrália, diz primeiro-ministro apareceu primeiro em Forbes Brasil . ]]>