Anthropic diz que IA pode acelerar o próprio desenvolvimento

A Anthropic afirmou que pode estar próxima de desenvolver uma inteligência artificial capaz de acelerar o próprio aprimoramento. O alerta aparece em uma atualização de seu prospecto de abertura de capital (S-1/A), enviada à Comissão de Valores Mobiliários dos Estados Unidos (SEC). A empresa afirma que ainda não atingiu esse estágio, mas suas estimativas indicam que isso pode acontecer em breve.

A empresa já utiliza inteligência artificial em atividades de pesquisa e desenvolvimento de novos modelos. – Imagem: gguy/Shutterstock O que é a autossuperação recursiva da IA? Conhecida como recursive self-improvement (RSI), ou autossuperação recursiva, a tecnologia descreve um estágio em que sistemas de inteligência artificial conseguem aprimorar seus próprios processos de desenvolvimento, acelerando a evolução de suas capacidades.

A possibilidade divide opiniões. Para críticos preocupados com os riscos da IA , esse avanço poderia levar à criação de sistemas tão poderosos que escapassem ao controle humano e causassem danos enquanto perseguissem seus objetivos. Já os entusiastas enxergam na RSI uma oportunidade de ampliar a produtividade e acelerar descobertas científicas.

A Anthropic reconhece os dois lados dessa discussão. No documento enviado à SEC, a empresa afirma que já utiliza inteligência artificial em suas atividades de pesquisa e desenvolvimento, mas alerta que essa estratégia também pode representar um risco considerável à segurança, especialmente se acelerar drasticamente o ritmo do progresso. Empresa admite que pode atingir esse estágio em breve A atualização inclui novos alertas na seção de fatores de risco.

A Anthropic revela que já utilizou sistemas de inteligência artificial para desenvolver novos modelos sem perceber, naquele momento, a dimensão dos avanços de capacidade alcançados. O uso crescente de IA nas pesquisas também pode fazer com que os modelos evoluam mais rapidamente do que a capacidade da empresa de desenvolver, validar e implementar medidas de segurança, alinhamento e proteção. Segundo o documento, estimativas internas e projeções sobre modelos futuros indicam que a companhia pode atingir em breve o que sua Política de Escalonamento Responsável define como “progresso dramaticamente acelerado atribuível à IA”.

A empresa ressalva que nenhum de seus modelos atuais foi classificado como tendo ultrapassado esse limite. A avaliação dos dados continua em andamento. A empresa considera atualizar sua Política de Escalonamento Responsável para manter humanos no controle.

– Imagem: tete_escape/Shutterstock Supervisão humana deve continuar Mesmo diante dessa possibilidade, a Anthropic afirma que não espera conseguir utilizar o Claude para projetar e construir, de maneira totalmente autônoma, sucessivas gerações de modelos avançados sem supervisão ou compreensão humana significativa. A companhia também considera atualizar sua Política de Escalonamento Responsável para manter as pessoas no controle do desenvolvimento de seus modelos mais avançados. O documento também merece ser considerado no contexto em que foi apresentado: registros enviados à SEC cumprem obrigações de divulgação, mas podem funcionar como instrumentos de apresentação das perspectivas da empresa ao mercado.

A Anthropic destaca que as capacidades do Claude avançaram neste ano, especialmente em programação, matemática e segurança cibernética. Ainda assim, nenhum modelo atual foi considerado pela empresa como tendo alcançado o estágio de autossuperação recursiva. O post Anthropic diz que IA pode acelerar o próprio desenvolvimento apareceu primeiro em Olhar Digital .

]]>