Avanço da inteligência artificial preocupa setor, enquanto rivalidade entre China e Estados Unidos dificulta resposta aos riscos

Com o avanço acelerado da inteligência artificial (IA), alguns dos principais nomes do setor têm feito alertas contundentes sobre os riscos que a tecnologia pode representar.

Dario Amodei, presidente-executivo da Anthropic, defende que o desenvolvimento da IA seja desacelerado.

Os dirigentes de duas empresas rivais do setor, Sam Altman, da OpenAI, e Elon Musk, dono da rede social X e do assistente de IA Grok, afirmaram concordar com Amodei.

Outros nomes do Vale do Silício chegaram a afirmar que a tecnologia poderia, um dia, ameaçar a sobrevivência da humanidade.

Mas as tentativas de enfrentar esses riscos são dificultadas pela intensa rivalidade entre as duas principais potências mundiais em IA, China e Estados Unidos.

Como concorrentes estratégicos, os dois países costumam avaliar os avanços da IA sob a ótica da segurança nacional e das vantagens econômicas, o que levanta dúvidas sobre a possibilidade de uma cooperação efetiva.

"Se a comunidade internacional espera que o diálogo entre EUA e China sobre essas questões resulte em um acordo vinculante, ficará decepcionada", afirmou Ilaria Carrozza, pesquisadora sênior do Instituto de Pesquisa para a Paz de Oslo (Prio, na sigla em inglês).

A China tem grandes planos para a IA e prevê um futuro em que a tecnologia esteja presente em todos os setores da sociedade e da economia, da agricultura e da saúde às Forças Armadas.

Veja Agregador de Pesquisas da BBC News Brasil

Fim do Promoção Agregador de pesquisas

O governo chinês, no entanto, também alerta há anos para os riscos da tecnologia. Já em 2017, afirmou que a IA poderia ameaçar a privacidade, a estabilidade social e as relações internacionais.

Desde então, a China passou a exigir que conteúdos gerados por IA nas redes sociais sejam identificados como tal, proibiu parceiros virtuais de IA para menores de idade e vetou o uso de deepfakes (técnica que manipula ou cria vídeos, áudios e imagens falsos, com alto grau de realismo) para disseminar desinformação.

Órgãos do governo chinês e assessores responsáveis pela formulação de políticas públicas têm "autoridade considerável para definir o que é aceitável no desenvolvimento da tecnologia" em comparação com seus equivalentes nos EUA, afirmou Zeng Jinghan, professor da Universidade da Cidade de Hong Kong que participou de conversas informais entre China e EUA sobre IA.

Ao tratar das preocupações de que a IA possa sair do controle, o presidente chinês, Xi Jinping, afirmou em julho que a tecnologia "deve permanecer sempre sob controle humano". A declaração foi feita durante a Organização Mundial de Cooperação em IA, iniciativa global criada pela China para promover o diálogo internacional sobre a governança da IA.

Em suas mais recentes diretrizes de segurança para IA, publicadas em setembro, a Administração do Ciberespaço da China, órgão regulador da internet do país, afirmou que são necessárias políticas preventivas para evitar que a IA ameace a "sobrevivência e o desenvolvimento da humanidade".

Embora autoridades chinesas reconheçam o risco de a IA escapar do controle humano, a possibilidade de a tecnologia representar uma ameaça existencial à humanidade ocupa um espaço muito menor no debate na China do que nos EUA.

A China trata esse risco como uma entre várias questões que precisam ser enfrentadas por meio de políticas públicas.

"A governança da IA na China atende a vários objetivos ao mesmo tempo: apoiar o desenvolvimento econômico, administrar riscos tecnológicos e sociais e manter a autoridade política", explica Zeng.

Shaoshan Liu, diretor do Instituto de Inteligência Artificial e Robótica para a Sociedade de Shenzhen, concorda com essa avaliação. "As discussões na China tendem a se concentrar mais na possibilidade de controlar a tecnologia, no uso indevido e nas consequências sociais, enquanto, nos EUA, o debate passou a ser dominado por cenários hipotéticos de perda de controle ou extinção."

As preocupações das autoridades chinesas com os riscos da IA convivem com a convicção de que a tecnologia será um importante motor de crescimento econômico