Especialistas de EUA e China cobram limites rígidos para conter riscos da inteligência artificial militar

O avanço da inteligência artificial em sistemas militares preocupa autoridades e especialistas em segurança. No Fórum Xiangshan, na China, participantes alertaram que decisões aceleradas por IA podem elevar os riscos de conflito e deixar menos tempo para governos entenderem uma situação antes de reagir.

Enquanto Estados Unidos e China discutem como lidar com esses riscos, especialistas dos dois países propõem medidas para evitar que ações autônomas sejam confundidas com ataques deliberados, especialmente quando envolvem armas nucleares ou operações cibernéticas.

Decisões militares cada vez mais rápidas

Cerca de 2 mil militares, diplomatas e acadêmicos de 100 países participaram do Fórum Xiangshan, realizado em Pequim. O encontro ocorreu em meio às discussões sobre os limites para o uso militar da IA.

Adul Boonthumjaroen, ministro da Defesa da Tailândia, afirmou que a competição entre grandes potências não deveria se resumir à busca por maior poder.

Hoje, o mundo está em um ponto de inflexão crítico. A competição estratégica entre as grandes potências está se tornando mais evidente, os conflitos em muitas regiões continuam.

Adul Boonthumjaroen, ministro da Defesa da Tailândia, durante o Fórum.

Muhammad Ali, secretário de Defesa do Paquistão, chamou atenção para a velocidade dos avanços tecnológicos. Segundo ele, eles estão “comprimindo o cronograma estratégico”.

A preocupação não se limita ao ritmo das decisões. Segundo a Reuters, especialistas de segurança dos Estados Unidos e da China também discutem como evitar que uma reação automática seja interpretada como um ataque e desencadeie uma escalada militar. É nesse ponto que entram as propostas de salvaguardas para o uso da IA.

Salvaguardas para os riscos da IA

Especialistas que participam de um diálogo entre instituições americanas e chinesas apresentaram propostas que tratam de questões tradicionalmente ligadas ao controle de armas. Entre elas estão:

• limitar o uso autônomo de IA em sistemas de comando nuclear;
• manter seres humanos responsáveis por ataques cibernéticos de grande impacto;
• criar uma linha direta entre EUA e China para incidentes envolvendo sistemas autônomos;
• impedir que a IA decida sozinha pelo uso de armas nucleares;
• estabelecer uma definição comum para “controle humano significativo”.

A linha direta permitiria que um governo informasse ao outro quando uma operação automatizada fosse acidental, não autorizada ou ainda estivesse sob investigação.

Isso poderia evitar uma escalada provocada por uma interpretação equivocada. Um sistema de defesa automatizado poderia reagir a uma atividade suspeita, enquanto o outro país entenderia a resposta como um ataque e retaliaria antes de saber o que realmente aconteceu.

Controle humano continua no centro

Jurg Lauber, vice-presidente do Comitê Internacional da Cruz Vermelha, destacou que a autonomia crescente das armas aumenta a necessidade de supervisão humana.

Leia mais:

• EUA revelam armas orbitais em meio à tensão com China e Rússia
• A IA precisa ser testada por quem pensa como um invasor
• Drone russo guiado por IA escolhe alvos autonomamente

“À medida que os sistemas de armas se tornam cada vez mais autônomos, a necessidade de preservar o julgamento e o controle humanos sobre o uso da força se torna mais urgente”, afirmou.

As propostas também incluem proteções para infraestruturas críticas, como energia, finanças e saúde. A intenção é evitar que a IA tenha autonomia para executar determinadas ações com consequências militares ou estratégicas graves.

China e Estados Unidos ainda divergem sobre como controlar a tecnologia. Pequim colocou a IA dentro da estrutura do Ministério das Relações Exteriores responsável pelo controle de armas. Washington, por sua vez, distribui o tema entre diferentes órgãos.

Nenhum dos dois governos endossou publicamente as propostas apresentadas pelos especialistas. Ao mesmo tempo, ambos demonstram preocupação com medidas que possam desacelerar seu próprio desenvolvimento tecnológico. A disputa tecnológica entre as duas potências, portanto, continua ligada à discussão sobre os limites do uso militar da IA.

O post Especialistas de EUA e China cobram limites rígidos para conter riscos da inteligência artificial militar apareceu primeiro em Olhar Digital.