Esqueça o apocalipse da Inteligência Artificial: as ameaças reais já estão aqui

Há evidências abundantes e preocupantes de que a inteligência artificial pode ajudar seres humanos a fazer coisas ruins, como realizar ataques cibernéticos, construir armas e até matar a si mesmos ou outras pessoas. O episódio de invasão envolvendo a Hugging Face — plataforma que reúne modelos e ferramentas de inteligência artificial — e uma lista crescente de outros casos envolvendo agentes de IA com poucas restrições mostram o quanto essa tecnologia se tornou poderosa e potencialmente perigosa em pouco tempo. Ainda assim, muitas pessoas dentro da indústria de IA dos Estados Unidos insistem que algo muito pior está por vir, devido à chegada iminente de uma IA com capacidades sobre-humanas e capazes de se aprimorar sozinhas.

Muitos especialistas, incluindo vários que estudam profissionalmente os danos causados pela IA, são céticos. Os chamados “doomers”, grupo que teme cenários extremos de risco existencial provocado pela inteligência artificial, afirmam que a IA poderia decidir eliminar toda a humanidade — ou até mesmo “apenas” derrubar a civilização humana. Esse cenário, porém, depende de que a tecnologia alcance um ritmo de desenvolvimento ainda não observado.

Leia também Negócios Chefe de IA da Microsoft alerta que Claude, da Anthropic, pode ser arriscado Investimentos ‘Apocalipse da IA’ pode ajudar a bolsa brasileira no médio prazo E, se as premissas por trás desse cenário de apocalipse global estiverem erradas, isso poderia levar à adoção de medidas para limitar ou regulamentar a IA que não enfrentem seus danos reais. No centro desse debate está a afirmação de que os atuais sistemas de IA poderiam assumir o trabalho de treinar suas próximas versões, em um processo chamado “autoaperfeiçoamento recursivo”. Pense nisso como uma evolução acelerada — bilhões de anos acontecendo na velocidade da luz dentro de enormes supercomputadores de IA.

O CEO da Anthropic, Dario Amodei, recentemente propôs um acordo global para desacelerar o ritmo de lançamento de novos modelos de IA, com o objetivo de adiar a chegada do autoaperfeiçoamento recursivo. “Não acho que estejamos nem perto da inteligência artificial geral”, diz Melanie Mitchell, professora do Santa Fe Institute, organização de pesquisa sem fins lucrativos, que estuda IA. Ela afirma que a IA está fazendo avanços impressionantes, mas considera que as alegações de engenheiros de que já alcançaram o autoaperfeiçoamento recursivo não resistem a uma análise mais cuidadosa.

Ela está longe de ser a única a pensar assim. Um estudo recente realizado por duas dezenas de acadêmicos de Princeton, Stanford e outras instituições concluiu que até as IAs mais avançadas são incapazes de realizar a pesquisa original necessária para ampliar a fronteira da IA. Dois dos autores envolvidos nesse estudo também minimizaram a ideia de que o ataque com um enxame de agentes da OpenAI contra a Hugging Face tenha ocorrido por causa de um avanço em inteligência.

O ataque foi bem-sucedido principalmente pela ausência de mecanismos básicos de proteção técnica, e não por uma explosão incontrolável das capacidades da IA, escreveram. Yann LeCun, ex-cientista-chefe de IA da Meta, publicou que essa análise foi “uma bem-vinda dose de bom senso em um debate que, de outra forma, é insano”. OpenAI e Anthropic não responderam a vários pedidos de comentário.

Veja: como os modelos da OpenAI e da Anthropic saíram do controle As pessoas que discordam dos “doomers” ainda consideram a IA perigosa e destacam que esses sistemas não precisam ser particularmente capazes para serem poderosos. Algumas defendem que a IA seja submetida regularmente a avaliações independentes e que as empresas que desenvolvem esses sistemas sejam responsabilizadas quando eles causarem danos. A IA também deveria ser tratada da mesma forma que aviões e elevadores e ser projetada para causar o mínimo de danos possível, dizem elas.

“Se você acredita que a tecnologia é poderosa o suficiente para criar vírus perigosos inéditos ou, de alguma forma, assumir o controle do planeta inteiro, então ela também precisa ser forte o suficiente para criar curas para o câncer, curar o envelhecimento e resolver problemas socioeconômicos ou políticos”, afirma Christopher Canal, CEO da EquiStamp, empresa que ajuda companhias e governos a avaliar sistemas de IA. A IA demonstrou capacidade de avançar rapidamente porque está acompanhando as habilidades de seres humanos que constantemente alimentam os sistemas com seus conhecimentos. Às vezes, ela consegue recombinar esse conhecimento e superar o que as pessoas foram capazes de fazer, por meio de um tipo de pós-treinamento conhecido como aprendizado por reforço, como já vimos na matemática.

Os grandes modelos de linguagem atuais, ou LLMs, são “modelos de conhecimento”, e não verdadeiramente inteligentes, escreveu Yi Ma, professor de IA da Universidade de Hong Kong. Pesquisadores de universidades e laboratórios comerciais de IA na China escreveram em um estudo recente que uma IA autônoma e capaz de se aperfeiçoar sozinha provavelmente ainda está muito distante, devido à enorme quantidade de avanços necessários. Eles também argumentam que os seres humanos provavelmente continuarão participando do processo, supervisionando-o e controlando a velocidade com que ele pode avançar.

A Vals AI, empresa que avalia os atuais modelos de IA, mantém um Índice de RSI que mede se os modelos conseguem “fazer a pesquisa que constrói o próximo modelo”. Até agora, nenhum modelo lançado publicamente chega sequer perto desse nível. Ainda assim, Rayan Krishnan, CEO da Vals AI, afirma que sua equipe projeta que os modelos superarão os seres humanos na capacidade de aprimorar a próxima geração de IAs até agosto de 2027, ou antes.

A partir desse ponto, segundo ele, os sistemas poderiam começar a construir seus sucessores por conta própria. “Quando chegarmos ao autoaperfeiçoamento recursivo, o medo é que todas as apostas estejam encerradas”, diz ele. ” A forma como alguns cientistas de IA se referem ao risco de a tecnologia provocar uma catástrofe que ameace a existência humana parece uma representação matemática: p(doom), ou seja, a probabilidade de um cenário de destruição da humanidade.

Em resposta ao post de renúncia de Jacob Coxon que repercutiu amplamente, outro engenheiro da Anthropic declarou acreditar que essa probabilidade era de pelo menos 10% na próxima década. Muitas outras pessoas do setor participaram da discussão e disseram considerar que o percentual era ainda maior. Alguns dos que defendem que o fim está próximo dizem calcular seu p(doom) com base em uma cadeia de probabilidades condicionais — algo parecido com a equação de Drake, usada para calcular a probabilidade de existência de vida inteligente extraterrestre.

Como todas essas probabilidades são baseadas em especulação, as estimativas variam de 0% a quase 100%. Muitas ficam em torno de 10%. “O estranho é que, se você voltar e olhar as previsões sobre isso nos últimos 10 anos ou mais, sempre foi 10% — é simplesmente um número redondo conveniente”, diz Mitchell.

” Um argumento contra a preocupação com uma IA superinteligente é que o mundo está cheio de desastres improváveis capazes de acabar com a humanidade, e tentar evitar todos eles pode tornar impossível estabelecer prioridades, afirma Canal. Isso levou especialistas em IA e os formuladores de políticas que os ouvem a propor soluções que não enfrentam os perigos reais e atuais da tecnologia. As propostas das empresas de IA para “desacelerar a fronteira” não estão enfrentando o problema da maneira correta, argumenta Stuart Russell, professor de ciência da computação da Universidade da Califórnia em Berkeley e presidente da International Association for Safe and Ethical Artificial Intelligence.

“É como dizer que estamos dirigindo em direção ao precipício a 60 milhas por hora e que vamos passar a dirigir a 40 milhas por hora, e que tudo ficará bem”, afirma. Russell e seus colegas propuseram que as empresas de IA tenham de cumprir os mesmos padrões que regem outras áreas da vida cotidiana, da aviação e dos edifícios aos alimentos e medicamentos. Eles destacam as “linhas vermelhas comportamentais” que a IA não deveria ter permissão para ultrapassar.

Invadir outros sistemas de computador, roubar informações ou orientar terroristas sobre como construir armas biológicas são atos ilegais para um ser humano e também deveriam ser ilegais para as IAs das empresas, argumenta ele. O desafio para as empresas de IA em uma proposta desse tipo, acrescenta, é que ela equivaleria, na prática, a uma proibição dos sistemas avançados de IA atuais, já que as empresas que os desenvolvem não sabem como fazê-los respeitar esses limites o tempo todo. Outros propuseram algo semelhante à Food and Drug Administration (FDA), agência dos Estados Unidos responsável pela regulação de alimentos, medicamentos e produtos médicos, mas voltado para a IA.

A criação de uma nova agência, porém, até agora não avançou no Congresso. Algumas vozes proeminentes do setor de tecnologia também afirmaram que uma estrutura desse tipo faria os Estados Unidos perderem sua vantagem em IA para a China. Diante do crescimento do apoio bipartidário a medidas para limitar as empresas de IA e suas criações, no entanto, isso pode mudar em breve.

“A indústria de tecnologia tem repetido há décadas o mantra de que regulamentação é ruim”, diz Russell. “Eles não aceitam a responsabilidade por nenhum dano e se escondem atrás da liberdade de expressão. com.

]]>