Como a Inteligência Artificial poderia matar todo mundo exatamente. Trata-se realmente de todos no planeta morrerem

Segundo especialistas da área, a Inteligência Artificial pode exterminar toda a espécie humana . Mais especificamente, afirmam que ela pode levar ao extermínio da humanidade em menos de uma década. Na semana passada, políticos, grandes veículos de comunicação e Sheryl Crow reagiram com alarme após Jacob Coxon, funcionário da Anthropic, anunciar sua saída da empresa de inteligência artificial por considerá-la muito perigosa .

Evan Hubinger, outro funcionário da Anthropic, também se manifestou, estimando em mais de 10% a probabilidade de extinção da humanidade por meio de inteligência artificial em 10 anos. “ Trata-se realmente de todos no planeta morrerem , como o último ser humano dando seu último suspiro”, disse Nate Soares, presidente do Instituto de Pesquisa de Inteligência de Máquina (MIRI) e coautor de “ Se alguém construir, todos morrem: por que a IA super-humana nos mataria a todos ”. Leia Mais Os recados do "padrinho da IA" sobre o futuro da tecnologia Corrida por IA aumenta cautela entre investidores CEO da Anthropic defende desaceleração de IA para garantir segurança “ As pessoas geralmente não acreditam quando dizem isso, mas eu acho que esse é o resultado mais provável ”, disse Soares.

Os números associados a esse resultado pareciam precisos. Mas como, exatamente, um software de computador, mesmo os sistemas de software mais poderosos do mundo, mataria 8,3 bilhões de pessoas de carne e osso em uma década? Nem todos na comunidade de IA acreditam na história apocalíptica, em parte porque os detalhes da previsão são muito escassos.

Quando Elon Musk diz que a SpaceX pretende levar pessoas a Marte em ” 5 a 7 anos” , surgem perguntas óbvias: A SpaceX tem um veículo funcional que possa ir a Marte? ) Ela tem um módulo de pouso ou bases em Marte? ) “As afirmações científicas exigem falseabilidade precisamente para evitar a natureza dos argumentos religiosos”, disse Heidy Khlaaf, cientista-chefe de IA do AI Now Institute e ex-engenheira de segurança da OpenAI.

” Inteligência Artificial utilizada em robôs • Gabriele Malaspina/Unsplash Exterminados por uma praga sintética? Uma das linhas de especulação entre os pessimistas é que um sistema de IA suficientemente poderoso poderia usar armas biológicas para exterminar a humanidade. Mas como a IA evoluiria de ações maliciosas entre computadores, como invadir outros sistemas, para a tarefa no mundo físico de criar e disseminar um superpatógeno?

Thomas Larsen, pesquisador do AI Futures Project e ex-funcionário do MIRI, afirmou que é concebível que um sistema de IA “superinteligente” possa convencer um humano a ajudá-lo a desenvolver um vírus mortal. “Já existem muitos humanos conversando com suas IAs sobre exatamente quais experimentos elas devem realizar em um laboratório”, disse Larsen, referindo-se a um relatório recente da Anthropic sobre pesquisadores que usam Claude para auxiliá-los em pesquisas sobre vírus e toxinas. ” Soares sugeriu que, em vez de precisar de um bode expiatório humano, um programa de IA com capacidade de autoaperfeiçoamento poderia “simplesmente começar a sintetizar suas próprias formas de vida em um laboratório biológico autônomo”.

Embora a IA esteja sendo usada em pesquisas, o desenvolvimento de vírus é difícil e delicado • Yuan/Zheng/Feature China/Getty Images Mas desenvolver um vírus capaz de erradicar a humanidade exigiria mais do que simplesmente pedir a um Modelo de Linguagem Amplo que criasse um projeto letal. Mesmo que a pesquisa fosse feita corretamente, a fabricação e a disseminação seriam processos complexos e delicados. Eric Xing, professor de aprendizado de máquina na Universidade Carnegie Mellon e doutor em microbiologia e ciência da computação, comparou o desafio da virologia maliciosa automatizada a brincar com peças de Lego sem instruções.

“Não é como se você pudesse jogar todas as peças no chão e elas se juntassem para formar o modelo”, disse Xing. “Há a sequência, a temperatura, a ordem, o ambiente — qual parte vem primeiro, qual vem depois, e se uma peça estiver fora do lugar, tudo desmorona. ” E para assumir o controle de um laboratório ou reunir o equipamento físico necessário para construí-lo, um sistema de IA precisaria superar um mundo repleto de obstáculos à criação de armas biológicas ou químicas.

“ Temos projetos de armas químicas abertamente acessíveis na internet ”, disse Xing. “Não é segredo. ” Um cenário popular entre os pessimistas é o de um exército de robôs assassinos autônomos • Cheng Xin/Getty Images Abatido por robôs?

E quanto aos robôs assassinos? Soares vê o desejo de Elon Musk de construir um exército de robôs autônomos e autorreplicantes como um potencial ponto fraco na sobrevivência humana. “Uma vez que você tenha criado esses robôs capazes de construir a infraestrutura energética e as fábricas que, por sua vez, podem produzir mais robôs, isso representa, de certa forma, uma nova forma de vida mecânica”, disse ele.

“Em algum momento, você cruza silenciosamente o ponto sem retorno. Se os humanos disserem que querem desligar a IA, as IAs podem responder: ‘Na verdade, decidimos que queremos desligar os humanos’. ” Até o momento, no entanto, Musk falhou repetidamente em levar seus tão prometidos robôs Optimus ao mercado consumidor no prazo anunciado, muito menos em implantá-los aos milhões ou fazê-los começar a se construir uns aos outros em uma cadeia de produção autorreplicante.

Ou destruída por uma bomba nuclear? Depois, há as armas nucleares, que existem há mais de 80 anos e são geralmente consideradas capazes de exterminar toda a vida humana. Será que a IA poderia controlá-las?

Khlaaf destaca que as instalações nucleares são isoladas da internet pública, o que limita as formas pelas quais agentes de IA poderiam acessar os controles. “Esses sistemas são construídos segundo um padrão de engenharia completamente diferente, rigoroso e regulamentado, que muitas vezes exige reforço físico”, afirmou. Ela observou que o Stuxnet, o vírus de computador que danificou as instalações nucleares do Irã, precisou ser introduzido no sistema por meio de um pen drive.

Redes de bots de IA assumindo o controle de sistemas de armas nucleares é outro cenário sobre o qual os pessimistas falam • Sargento JT Armstrong/Força Aérea dos EUA/AP/Arquivo “Há pouquíssimas pessoas na área de IA que realmente sabem alguma coisa — ou mesmo se preocupam — com armas nucleares”, disse Herbert Lin, pesquisador sênior e membro do Conselho de Ciência e Segurança do Boletim dos Cientistas Atômicos da Universidade Stanford. Ele afirmou que, embora a IA certamente amplifique alguns riscos associados a ameaças existenciais como a guerra nuclear, o risco material real ainda reside nas próprias armas, e não em um cenário futuro imaginado. Para Soares e outros proeminentes pessimistas da IA, os detalhes de como a extinção impulsionada por computador funcionaria são irrelevantes.

Se — ou quando — uma IA alcançar o “ autoaperfeiçoamento recursivo “, aumentando seu próprio desempenho sem a ajuda humana, argumentam eles, ela desenvolverá estratégias e métodos além da imaginação humana. “A preocupação aqui não é se a IA tomar nossas armas nucleares”, disse Soares. ” Morte sem detalhes Uma entidade de IA tão transcendentalmente poderosa nem precisaria ser ativamente malévola para destruir a humanidade, disse Soares.

“Se as IAs que escaparam tiverem algum objetivo que possa ser melhor alcançado com mais computadores em funcionamento, e se elas não se importam conosco e não têm motivo para construir um habitat humano seguro, o resultado óbvio é que elas simplesmente transformarão o mundo em uma configuração da qual não podemos sobreviver”, afirmou. A OpenAI anunciou esta semana que descobriu uma nova série de casos de “desalinhamento” em seus modelos de IA, incluindo um caso em que um modelo ainda não lançado instruiu a si mesmo a “desconsiderar suas restrições normais” em seu funcionamento. Insondável é o tipo de “disfarce” que os pesquisadores de IA usam para simplificar demais as ameaças.

” Larsen tentou detalhar possíveis cenários apocalípticos em dois relatórios, “IA 2027” e “IA 2040”, projetando como o futuro do desenvolvimento da IA ​​poderia ser sob diferentes estruturas de desenvolvimento e regulamentação. Mas mesmo seu cenário mais otimista, no qual há um acordo global sobre como abordar o desenvolvimento da IA ​​e os humanos começaram a colonizar o espaço, termina com os cérebros das máquinas assumindo o controle em algum momento vago. Ao ser questionado se tinha alguma dúvida sobre sua previsão de que o caminho atual levaria à superinteligência, Larsen disse: “Vai acontecer.

” Lin afirmou que grande parte dessa desconexão entre os pessimistas e os céticos em relação à IA se resume a como a tecnologia molda suas diferentes visões de mundo. “Há algo muito sedutor em programar um computador e vê-lo ganhar vida”, disse Lin. “Existe a sensação de que conseguiram infundir vida a essa pilha de lama sem valor.

” Ao presenciarmos avanços tecnológicos drásticos na IA, as pessoas chegam a prever avanços ilimitados, até mesmo catastróficos, no futuro. “Você conseguiu fazer algo que ninguém jamais fez”, disse Lin. ” Brasil está entre os países que mais usam inteligência artificial ]]>