IA vai acabar com a humanidade? Neurocientista rebate hipótese: ‘não tem sentido’

Existe mais de 10% de probabilidade de a inteligência artificial (IA) matar todos os humanos. É o que escreveu Evan Hubinger, diretor de alinhamento na Anthropic, no dia 8 de setembro. A postagem no X (antigo Twitter) viralizou.

E tomou conta do noticiário. Para o doutor Álvaro Machado Dias, neurocientista, futurista e professor da Unifesp, isso é narrativa. “Não há a mínima plausibilidade nesse papo”, disse o especialista, em entrevista ao Olhar Digital .

A postagem de Hubinger respondia a outro tweet – este postado por Jacob Coxon. O pesquisador trabalhou na OpenAI e, depois, na Anthropic. Em ambas as empresas, Coxon trabalhou na área de pré-treinamento de modelos de IA.

O pesquisador se demitiu da Anthropic no começo de setembro. Logo após sair da empresa, Coxon publicou um alerta que também viralizou. Segundo o especialista, Anthropic e OpenAI estariam “correndo em direção a uma superinteligência capaz de se aprimorar sozinha e apostando as nossas vidas”.

Então, veio o comentário de Hubinger. “Nós acreditamos, com toda a seriedade, que a IA poderia matar os humanos! ” Jacob is correct here—we really do earnestly believe AI could kill all humans!

I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. co/QAIHiFP3QZ — Evan Hubinger (@EvanHub) September 9, 2026 “Eu fico incomodado com a falta de método e evidência”, disse Arthur Igreja, especialista em tecnologia e inovação, em entrevista ao Olhar Digital .

“Como ele calculou 10%? Por que não é 15%? Por que não é 7%?

Mostre para nós como se calcula isso. ”, questionou o especialista. “Acho que se colocarmos numa tabela de riscos, eu tenho mais medo até o final da década de pessoas tomarem decisões erradas”, acrescentou Igreja.

Apocalipse causado pela IA: o que é narrativa e o que é risco? “O que certamente é narrativa: que a inteligência artificial, em sua forma atual ou na que vai surgir daqui alguns anos, seria capaz de se revoltar, ter intencionalidade, atacar os seres humanos, matar os seres humanos e acabar com o mundo”, afirmou o doutor Álvaro Machado Dias. Por que não há “mínima plausibilidade”?

“Primeiro, porque isso envolveria um tipo de intencionalidade que existe nos seres humanos, existe nas outras espécies e que a gente não vê na máquina”, explicou o neurocientista. “Depois, envolve uma capacidade de execução que a gente desconhece. Cadê essa capacidade de execução?

Eu não estou vendo”, acrescentou o especialista. O doutor Álvaro Machado Dias acrescentou que a IA “depende de você ter acesso a recursos extremamente sensíveis”. “Então, por exemplo, armas biológicas envolvem laboratórios onde essas moléculas supostamente criadas pela IA seriam sintetizadas.

Mas como é que a IA, ou mesmo um grupo terrorista qualquer, vai acessar esse tipo de laboratório? ” A parte real é que a inteligência artificial é capaz de fazer muito mal através de interfaces digitais. Doutor Álvaro Machado Dias, neurocientista, futurista e professor da Unifesp, em entrevista ao Olhar Digital .

“Por exemplo: uma IA orientada à produção de vírus de computador polimórficos (que variam) e esses vírus orientados ao sequestro de bases de dados sensíveis, como de hospitais, de fato poderiam produzir um impacto grande e inclusive mortes”, disse o futurista. Para o especialista, a diferenciação que deve estar clara para você é: “aquilo que envolve uma realidade que no domínio do ‘como’ é viável e aquilo que envolve uma realidade que, quando a gente vai para esse ‘como’, simplesmente se cala porque não tem sentido prático”. ) O descompasso entre governos e empresas de IA O CEO da Anthropic, Dario Amodei, publicou um artigo , em 12 de setembro, no qual admitiu que o desenvolvimento de modelos de IA está rápido demais por conta do “autoaperfeiçoamento recursivo”.

Por isso, o executivo propôs a desaceleração coordenada entre empresas do setor. Nos dias seguintes, os CEOs Sam Altman (OpenAI) e Elon Musk (xAI) e o ex-CEO do Google DeepMind Demis Hassabis concordaram com o artigo assinado por Amodei. “O ensaio do Dario aponta para o caminho certo a seguir.

Os detalhes precisam ser trabalhados, mas a direção está correta para enfrentar este momento crítico”, escreveu Hassabis, numa postagem no X (antigo Twitter) . “Dario está certo”, escreveu Musk na sua rede social . Elon Musk, Dario Amodei e Sam Altman concordaram sobre desacelerar IA – SpaceX/Forum Econômico Mundial/FotoField – Shutterstock Também numa postagem no X , Altman argumentou que desacelerar não significa parar, mas arcar com os custos de auditorias e testes de segurança.

O objetivo seria evitar que a capacidade dos modelos supere seu alinhamento. O presidente dos Estados Unidos, Donald Trump, desdenhou dos alertas de Amodei, Altman e Musk. Trump minimizou os possíveis riscos puxados pela IA.

E defendeu que os EUA mantenham a liderança sobre a China. A China respondeu ao artigo do CEO da Anthropic de maneira contundente. Por meio de um editorial do jornal estatal Global Times , o país asiático disse que a intenção por trás do ensaio de Amodei seria criar um “manual da Guerra Fria” voltado a conter o avanço chinês e preservar a hegemonia tecnológica americana.

Tem um detalhe nesta história que precisa ser colocado às claras. Para pausar o avanço da inteligência artificial, os laboratórios não precisam de autorização governamental. Eles não precisam sequer anunciar isso para o mundo.

É simplesmente uma questão de não seguir desenvolvendo. Doutor Álvaro Machado Dias, neurocientista, futurista e professor da Unifesp, em entrevista ao Olhar Digital . Então, por que pausar se tornou uma questão que parece envolver o setor e o governo?

“A resposta é clara: porque, no fundo, nem Anthropic, nem OpenAI, nem Google, nem xAI estão seriamente pensando em adotar essa postura de maneira unilateral”, disse o futurista. “A IA mostrou, com o caso do Hugging Face e outros mais, que pode efetivamente produzir resultados e desfechos deletérios para o mundo e, consequentemente, para as empresas”, afirmou o especialista. Segundo o doutor Álvaro Machado Dias, o ponto aqui é: “Se colocar numa postura mais cautelosa, sobretudo quando você tem a certeza de que o seu governo vai dizer ‘siga em frente’, é altamente estratégico.

cabul/Shutterstock Sobre as respostas dos governos dos EUA e da China, o especialista começou observando que “é verdade que os americanos começaram esse desenvolvimento (o ChatGPT é o primeiro grande feito da era dos LLMs) e também é verdade que os americanos, hoje em dia, investem muito mais”. ” No entanto, isso não significa que os chineses não estejam pensando em expandir sua tecnologia mundo afora, segundo o especialista. “Os dois estão pensando da mesma forma.

É só que, de fato, é muito mais cômodo você combinar com o seu concorrente uma parada quando você está na frente do que o oposto. Mas, no final das contas, ninguém quer parada nenhuma”, disse o futurista. Assista abaixo a entrevista completa com o doutor Álvaro Machado Dias: O post IA vai acabar com a humanidade?

Neurocientista rebate hipótese: ‘não tem sentido’ apareceu primeiro em Olhar Digital . ]]>