Chefe da ONU alerta para corrida pela IA e defende regras comuns entre países para evitar riscos globais

O secretário-geral da Organização das Nações Unidas (ONU), António Guterres, alertou, nesta quarta-feira (16), que os riscos associados ao rápido avanço da inteligência artificial (IA) não podem ser ignorados. A declaração ocorre em meio ao debate crescente sobre a necessidade de criar mecanismos de supervisão para sistemas cada vez mais avançados.

As declarações foram dadas antes da Assembleia Geral da ONU, que será realizada na próxima semana em Nova York (EUA). Segundo Guterres, a necessidade de uma supervisão mais rigorosa da IA será um dos principais temas de suas conversas com líderes mundiais.

“Não podemos nos dar ao luxo de ignorar as preocupações que foram levantadas, especialmente por aqueles que estão na linha de frente do desenvolvimento da IA”, afirmou Guterres. Para ele, é responsabilidade de cada governo proteger seus cidadãos, inclusive contra possíveis ameaças representadas pela tecnologia.

A posição do secretário-geral contrasta com a do presidente dos Estados Unidos, Donald Trump. Na segunda-feira (14), Trump afirmou que o país já possui mecanismos de proteção para regular empresas de IA e responsabilizá-las quando necessário, minimizando os argumentos em favor de novas regras federais. Trump também afirmou que colocar dúvidas sobre o desenvolvimento da IA poderia beneficiar a China.

Crescem os alertas dentro da indústria de IA

• O alerta de Guterres ocorre em momento de aumento das preocupações públicas sobre os riscos associados à IA;
• Na semana passada, o pesquisador Jacob Coxon deixou a Anthropic e afirmou que uma das razões para sua saída foi a preocupação de que pessoas envolvidas no desenvolvimento da tecnologia acreditam que a IA poderia representar uma ameaça extrema à humanidade até o fim da década;
• Executivos de algumas das maiores empresas do setor também passaram a defender uma desaceleração no desenvolvimento da tecnologia diante dos riscos apontados;
• Guterres defende há anos a criação de mecanismos internacionais de governança para a IA. Em 2023, a ONU criou um órgão consultivo formado por 39 integrantes, incluindo executivos de empresas de tecnologia, autoridades governamentais e pesquisadores de países, como Estados Unidos, Rússia e Japão;
• O Conselho de Segurança da ONU também poderá realizar reunião sobre IA na próxima semana, durante o encontro anual de líderes mundiais em Nova York. O órgão já havia realizado sua primeira reunião dedicada à IA em 2023.

Leia mais:

• ‘O mundo está certo em ter medo disso’, declara Sam Altman sobre o avanço sem freios da IA
• Linha do tempo: como IA foi da aliada a ‘ameaça existencial’
• Frear ou acelerar? IA coloca gigantes da tecnologia em lados opostos
• OpenAI, Anthropic e Google discutem órgão para supervisionar riscos da IA

ONU quer mecanismos internacionais para controlar riscos

Para Guterres, os países com maior capacidade de desenvolver sistemas de IA de ponta deveriam estabelecer canais permanentes de contato e troca de informações, além de mecanismos comuns de segurança.

Segundo o secretário-geral, a ausência de coordenação poderia levar os países a uma espécie de corrida em direção ao desenvolvimento de sistemas cada vez mais poderosos, aumentando os riscos de desastre em escala global.

“Precisamos de um entendimento compartilhado sobre como promover o desenvolvimento seguro, protegido e responsável da IA, identificando quando sistemas cada vez mais poderosos podem exigir salvaguardas mais fortes ou medidas adicionais para administrar possíveis riscos”, afirmou Guterres.

O tema também deverá aparecer nas discussões entre Estados Unidos e China. Trump tem reunião prevista com o presidente chinês Xi Jinping na próxima semana, em Washington (EUA). Separadamente, os dois países planejavam realizar reunião em meados de setembro, conduzida por autoridades de escalões inferiores, para discutir os riscos associados à IA.

O post Chefe da ONU alerta para corrida pela IA e defende regras comuns entre países para evitar riscos globais apareceu primeiro em Olhar Digital.