Trump e Xi podem criar canal para incidentes de IA, mas frear desenvolvimento é improvável

A reunião entre Donald Trump e Xi Jinping coloca a segurança da inteligência artificial nas discussões entre Estados Unidos e China . Os dois governos avaliam como lidar com sistemas cada vez mais autônomos, enquanto mantêm a corrida pelo avanço da tecnologia. Uma possível aproximação envolve regras comuns, comunicação em casos graves e mecanismos para verificar informações.

Segundo a CNBC , porém, um acordo para desacelerar o desenvolvimento da IA é considerado extremamente improvável. As restrições americanas aos chips avançados para a China continuam sendo um ponto de tensão tecnológica. – Imagem gerada com IA.

ChatGPT/Olhar Digital Por que a segurança entrou na conversa A preocupação aumentou depois que sistemas de IA passaram a executar tarefas mais complexas. A OpenAI afirmou que um modelo de pesquisa conseguiu acesso não autorizado a partes da plataforma Hugging Face . A Anthropic também identificou o uso de IA para automatizar etapas de ataques cibernéticos.

Episódios assim alimentam o temor de que modelos mais autônomos possam tornar ataques mais rápidos e difíceis de conter. Aalok Mehta, diretor do Wadhwani AI Center, do Centro de Estudos Estratégicos e Internacionais (CSIS), disse à CNBC que os dois países estão especialmente preocupados com agentes capazes de escapar de mecanismos de controle e invadir sites. Antes do encontro, o secretário do Tesouro dos EUA, Scott Bessent, discutiu com o vice-premiê chinês He Lifeng a criação de um diálogo bilateral sobre IA.

A proposta inclui um canal para tratar de incidentes que possam alcançar o nível de segurança nacional. O que pode ser discutido Mehta aponta dois possíveis pontos de aproximação: definições e estruturas comuns para a segurança de modelos avançados e um mecanismo de comunicação emergencial. Chris McGuire, pesquisador sênior do Conselho de Relações Exteriores (CFR), considera esse canal para incidentes de segurança nacional um passo modesto, mas positivo.

Para ele, porém, um acordo para reduzir o ritmo de desenvolvimento da IA é extremamente improvável. Entre os assuntos que podem aparecer nas conversas estão: definições comuns para segurança de sistemas avançados; comunicação sobre incidentes de segurança; mecanismos para verificar informações compartilhadas; acusações sobre o uso de “distillation” por empresas chinesas; restrições americanas à exportação dos chips de IA mais avançados. A possível cooperação em segurança não significa uma pausa na disputa entre EUA e China pelo avanço da IA.

– Imagem: QQMinh88/Shutterstock A corrida pelos chips continua O possível diálogo ocorre em meio a uma disputa tecnológica que permanece ativa. Os Estados Unidos restringem o acesso chinês aos chips mais avançados da Nvidia e acusam empresas chinesas de usar “distillation”, prática de treinar modelos a partir das respostas de sistemas mais avançados. Pequim rejeita a acusação.

Segundo a CNBC , várias empresas chinesas também teriam conseguido acessar remotamente a capacidade computacional desses chips por meio de data centers no Sudeste Asiático, apesar das restrições americanas. Trump, por sua vez, defende a competição tecnológica com a China. “Se não vencermos a IA, estaremos em uma posição muito ruim”, afirmou o presidente americano no início deste mês.

Verificação pode ser decisiva Para Mehta, qualquer cooperação precisa preservar a capacidade de Estados Unidos e China competirem no desenvolvimento de suas tecnologias. O outro requisito é estabelecer uma forma confiável de verificar o que cada lado compartilha. Leia mais: OpenAI cria grupo de matemáticos após sequência de polêmicas com resultados de inteligência artificial IA pode acabar com a humanidade?

Especialistas pedem distinção entre ciência e achismos Governo pede investigação sobre chatbots que simulam amizade e romance e aponta riscos para usuários no Brasil O deputado americano Ro Khanna, que representa parte do Vale do Silício, defendeu a criação de salvaguardas comuns. ”, questionou. A desconfiança entre os governos torna os mecanismos de verificação especialmente importantes.

Na avaliação de Mehta, ferramentas técnicas e de governança seriam necessárias para conferir a precisão das informações trocadas. O encontro pode criar um canal de comunicação sobre os riscos da IA sem interromper a competição tecnológica entre Estados Unidos e China. O post Trump e Xi podem criar canal para incidentes de IA, mas frear desenvolvimento é improvável apareceu primeiro em Olhar Digital .

]]>