IA vai acabar com a humanidade? Neurocientista rebate hipótese: ‘não tem sentido’

Existe mais de 10% de probabilidade de a inteligência artificial (IA) matar todos os humanos. É o que escreveu Evan Hubinger, diretor de alinhamento na Anthropic, no dia 8 de setembro. A postagem no X (antigo Twitter) viralizou. E tomou conta do noticiário. Para o doutor Álvaro Machado Dias, neurocientista, futurista e professor da Unifesp, isso é narrativa. “Não há a mínima plausibilidade nesse papo”, disse o especialista, em entrevista ao Olhar Digital.

A postagem de Hubinger respondia a outro tweet – este postado por Jacob Coxon. O pesquisador trabalhou na OpenAI e, depois, na Anthropic. Em ambas as empresas, Coxon trabalhou na área de pré-treinamento de modelos de IA.

O pesquisador se demitiu da Anthropic no começo de setembro. Logo após sair da empresa, Coxon publicou um alerta que também viralizou. Segundo o especialista, Anthropic e OpenAI estariam “correndo em direção a uma superinteligência capaz de se aprimorar sozinha e apostando as nossas vidas”.

Então, veio o comentário de Hubinger. “Nós acreditamos, com toda a seriedade, que a IA poderia matar os humanos! Eu, pessoalmente, acho que a probabilidade é superior a 10% na próxima década.”

Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ

— Evan Hubinger (@EvanHub) September 9, 2026

“Eu fico incomodado com a falta de método e evidência”, disse Arthur Igreja, especialista em tecnologia e inovação, em entrevista ao Olhar Digital. “Como ele calculou 10%? Por que não é 15%? Por que não é 7%? Mostre para nós como se calcula isso. Qual é a premissa?”, questionou o especialista.

“Acho que se colocarmos numa tabela de riscos, eu tenho mais medo até o final da década de pessoas tomarem decisões erradas”, acrescentou Igreja.

Apocalipse causado pela IA: o que é narrativa e o que é risco?

“O que certamente é narrativa: que a inteligência artificial, em sua forma atual ou na que vai surgir daqui alguns anos, seria capaz de se revoltar, ter intencionalidade, atacar os seres humanos, matar os seres humanos e acabar com o mundo”, afirmou o doutor Álvaro Machado Dias.

Por que não há “mínima plausibilidade”? “Primeiro, porque isso envolveria um tipo de intencionalidade que existe nos seres humanos, existe nas outras espécies e que a gente não vê na máquina”, explicou o neurocientista.

“Depois, envolve uma capacidade de execução que a gente desconhece. Cadê essa capacidade de execução? Eu não estou vendo”, acrescentou o especialista.

O doutor Álvaro Machado Dias acrescentou que a IA “depende de você ter acesso a recursos extremamente sensíveis”. “Então, por exemplo, armas biológicas envolvem laboratórios onde essas moléculas supostamente criadas pela IA seriam sintetizadas. Mas como é que a IA, ou mesmo um grupo terrorista qualquer, vai acessar esse tipo de laboratório? Essas são áreas altamente reguladas.”

A parte real é que a inteligência artificial é capaz de fazer muito mal através de interfaces digitais.

Doutor Álvaro Machado Dias, neurocientista, futurista e professor da Unifesp, em entrevista ao Olhar Digital.

“Por exemplo: uma IA orientada à produção de vírus de computador polimórficos (que variam) e esses vírus orientados ao sequestro de bases de dados sensíveis, como de hospitais, de fato poderiam produzir um impacto grande e inclusive mortes”, disse o futurista.

Para o especialista, a diferenciação que deve estar clara para você é: “aquilo que envolve uma realidade que no domínio do ‘como’ é viável e aquilo que envolve uma realidade que, quando a gente vai para esse ‘como’, simplesmente se cala porque não tem sentido prático”.

(Confira esta linha do tempo do Olhar Digital sobre como a IA foi da aliada a ‘ameaça existencial’.)

O descompasso entre governos e empresas de IA

O CEO da Anthropic, Dario Amodei, publicou um artigo, em 12 de setembro, no qual admitiu que o desenvolvimento de modelos de IA está rápido demais por conta do “autoaperfeiçoamento recursivo”. Por isso, o executivo propôs a desaceleração coordenada entre empresas do setor.

Nos dias seguintes, os CEOs Sam Altman (OpenAI) e Elon Musk (xAI) e o ex-CEO do Google DeepMind Demis Hassabis concordaram com o artigo assinado por Amodei. “O ensaio do Dario aponta para o caminho certo a seguir. Os detalhes precisam ser trabalhados, mas a direção está correta para enfrentar este momento crítico”, escreveu Hassabis, numa postagem no X (antigo Twitter). “Dario está certo”, escreveu Musk na sua rede social.

Também numa postagem no X, Altman argumentou que desacelerar não significa parar, mas arcar com os custos de auditorias e testes de segurança. O objetivo seria evitar que a capacidade dos modelos supere seu alinhamento.

O presidente dos Estados Unidos, Donald Trump, desdenhou dos alertas de Amodei, Altman e Musk. Trump minimizou os possíveis riscos puxados pela IA. E defendeu que os EUA mantenham a liderança sobre a China.

A China respondeu ao artigo do CEO da Anthropic de maneira contundente. Por meio de um editorial do jornal estatal Global Times, o país asiático disse que a intenção por trás do ensaio de Amodei seria criar um “manual da Guerra Fria” voltado a conter o avanço chinês e preservar a hegemonia tecnológica americana.

Tem um detalhe nesta história que precisa ser colocado às claras. Para pausar o avanço da inteligência artificial, os laboratórios não precisam de autorização governamental. Eles não precisam sequer anunciar isso para o mundo. É simplesmente uma questão de não seguir desenvolvendo.

Doutor Álvaro Machado Dias, neurocientista, futurista e professor da Unifesp, em entrevista ao Olhar Digital.

Então, por que pausar se tornou uma questão que parece envolver o setor e o governo? “A resposta é clara: porque, no fundo, nem Anthropic, nem OpenAI, nem Google, nem xAI estão seriamente pensando em adotar essa postura de maneira unilateral”, disse o futurista.

“A IA mostrou, com o caso do Hugging Face e outros mais, que pode efetivamente produzir resultados e desfechos deletérios para o mundo e, consequentemente, para as empresas”, afirmou o especialista.

Segundo o doutor Álvaro Machado Dias, o ponto aqui é: “Se colocar numa postura mais cautelosa, sobretudo quando você tem a certeza de que o seu governo vai dizer ‘siga em frente’, é altamente estratégico. Afinal de contas, transforma um problema potencial das empresas – que seriam e serão, em alguma medida, responsabilizadas legalmente – num problema do governo e da sociedade.”

Sobre as respostas dos governos dos EUA e da China, o especialista começou observando que “é verdade que os americanos começaram esse desenvolvimento (o ChatGPT é o primeiro grande feito da era dos LLMs) e também é verdade que os americanos, hoje em dia, investem muito mais”. “Então, a postura chinesa de dizer ‘olha, é agora, com vocês estabelecidos na pole position, que vocês querem discutir conosco uma desaceleração?’ é uma postura legítima.”

No entanto, isso não significa que os chineses não estejam pensando em expandir sua tecnologia mundo afora, segundo o especialista. “Os dois estão pensando da mesma forma. É só que, de fato, é muito mais cômodo você combinar com o seu concorrente uma parada quando você está na frente do que o oposto. Mas, no final das contas, ninguém quer parada nenhuma”, disse o futurista.

Assista abaixo a entrevista completa com o doutor Álvaro Machado Dias:

O post IA vai acabar com a humanidade? Neurocientista rebate hipótese: ‘não tem sentido’ apareceu primeiro em Olhar Digital.