Este é o gráfico mais importante do mundo, dizem alguns gênios da IA

Desde a época em que a inteligência artificial parecia mais ficção do que ciência, uma ideia fascina os principais pesquisadores da área. Hoje, quem comanda os laboratórios de IA acredita que essa ideia pode transformar o setor, a economia global e talvez o destino da humanidade. O cientista-chefe da OpenAI disse que ela é a única maneira de continuar na fronteira.

Um cofundador da Anthropic afirma que ela “talvez seja a tendência técnica mais importante do mundo”. E, a menos que você trabalhe com IA, é provável que nunca tenha ouvido falar dela. É um fenômeno conhecido como “autoaperfeiçoamento recursivo”, ou RSI na sigla em inglês, o que, grosso modo, quer dizer IA construindo IAs mais inteligentes.

A Anthropic chama isso de “fechar o ciclo”: cada melhoria deixa as máquinas melhores e mais rápidas em melhorar a si mesmas. As empresas de IA dizem que já veem os primeiros sinais de autoaperfeiçoamento recursivo, o que está acelerando suas pesquisas e deixando todo mundo apavorado. À medida que essa tecnologia acelera a própria evolução, o risco é que a gente tenha dificuldade para acompanhar o ritmo e mantê-la sob controle.

Leia também Negócios Apple supera Nvidia e volta a ser a empresa mais valiosa do mundo Os melhores dados sobre essa mudança profunda vêm da Anthropic, que publicou recentemente um gráfico mostrando quanto da sua pesquisa e desenvolvimento em IA está sendo feito pela própria IA. Foi preciso um batalhão inteiro de Claudes para produzir os dados desse gráfico. Um agente Claude vasculhou as mensagens de Slack e os documentos internos da empresa para identificar 15 mil tarefas de P&D em IA.

Um Claude detetive investigou exatamente como esse trabalho tinha sido feito. Depois, um Claude juiz pesou as evidências e classificou o trabalho numa escala de seis níveis, de nenhuma IA a IA totalmente autônoma. Agora olhe de novo para o gráfico e você vai notar que algo extraordinário está acontecendo dentro da Anthropic.

As barras mais reveladoras são as em azul escuro , de “IA lidera”, que indicam que ela faz a maior parte da P&D enquanto um humano supervisiona. É o quinto dos seis níveis. Um ano atrás, a IA não liderava nada desse trabalho.

Até março, liderava só 1%. Em agosto, o Claude já liderava 26% do trabalho sobre os futuros Claudes. E esse número quase certamente é maior hoje.

Mesmo com os pesquisadores da empresa delegando à IA, vale lembrar que 0% desse trabalho é feito inteiramente por IA. Ela ainda não chegou ao sexto nível de automação. Mas, nesse ritmo de progresso, a IA nos tirar do ciclo pode ser só uma questão de tempo, de poder computacional e das decisões dos seres humanos dentro dos laboratórios.

“Ainda não chegamos lá, e o autoaperfeiçoamento recursivo não é inevitável”, escreveu a Anthropic recentemente. ” As empresas de IA dizem que ter modelos treinando, testando e ajustando a próxima geração de modelos é essencial para o seu sucesso. Elas também morrem de medo do que esse sucesso pode significar.

Catastrofistas largaram os laboratórios e alertaram que uma IA capaz de se autoaperfeiçoar pode acabar matando todos nós. Os pesquisadores mais proeminentes da área pediram mais supervisão, e CEOs defenderam uma desaceleração antes que essa tecnologia, que avança tão rápido, chegue ao RSI pleno. ” Mas a ideia de uma IA que se autoaperfeiçoa seduz os humanos desde o início da história da IA.

Quando pesquisadores pioneiros se reuniram em Dartmouth para um projeto de verão em 1956, já tinham curiosidade sobre como as máquinas poderiam melhorar a si mesmas. Por coincidência, um dos cientistas que propuseram aquele workshop seminal era um Claude: o brilhante matemático Claude Shannon. Em menos de uma década, os cientistas já sonhavam com máquinas mais inteligentes que nós em tudo, inclusive no projeto de máquinas.

J. ” Décadas depois, os homens e mulheres que estão dando vida a essa máquina nunca estiveram tão preocupados com a própria capacidade de controlá-la. Muitos deles pensam em sistemas de IA construindo sistemas de IA de forma autônoma desde quando isso soava como ficção científica.

Agora, não sabem bem o que pensar. “Não sei como processar isso”, escreveu recentemente Jack Clark, cofundador da Anthropic. Clark começou a carreira como jornalista de tecnologia, até ficar tão obcecado pela história que cobria que quis fazer parte dela.

Foi trabalhar num laboratório de pesquisa ainda incipiente chamado OpenAI e, mais tarde, saiu com um pequeno grupo de colegas para fundar a Anthropic. “Desde então, venho tentando convencer o mundo de que um dia os sistemas de IA podem ficar tão poderosos a ponto de alterar a segurança nacional, mudar a trajetória econômica do planeta e talvez, por fim, ganhar a capacidade de construir a si mesmos”, disse ele num discurso em outubro no Fundo Monetário Internacional. ” Poucos meses atrás, esse momento parecia estar a alguns anos de distância.

Chegou antes até do que Clark esperava. Depois de tirar licença-paternidade em novembro do ano passado, ele voltou em fevereiro para uma empresa muito diferente. Enquanto ele trocava fraldas, a Anthropic tinha mudado.

“Coisas estranhas tinham começado a acontecer”, escreveu ele em sua newsletter. De repente, os modelos da empresa estavam bons o bastante para que os engenheiros começassem a terceirizar a programação para eles, e alguns tinham parado de escrever código de vez. Em maio, as coisas tinham ficado tão estranhas, tão rápido, que ele concluiu que o RSI provavelmente chegaria até o fim de 2028.

” Depois, ele encurtou o prazo de novo. Ele já não acredita que 2028 seja o ano mais provável para o RSI. Acha que será 2027.

E não é preciso gráfico nenhum para entender o que isso significa: a ficção está prestes a virar ciência. ]]>