António Guterres alertou para perigos de competição desenfreada pelo desenvolvimento de sistemas cada vez mais avançados

Priorizar nos meus resultados Google O secretário-geral das Nações Unidas, António Guterres, defendeu nesta quarta-feira, 16, uma “coordenação global” para enfrentar os riscos da inteligência artificial (IA) e alertou para os perigos de uma competição desenfreada pelo desenvolvimento de sistemas cada vez mais avançados.

“A ação em nível nacional é essencial. Mas uma cooperação global também é necessária”, disse Guterres em uma coletiva de imprensa, acrescentando que “a IA não respeita fronteiras e tampouco seus riscos”.

O chefe da ONU afirmou que os governos têm a responsabilidade de proteger suas populações das ameaças relacionadas à inteligência artificial. O assunto, segundo ele, estará entre os temas discutidos na Assembleia Geral da ONU, que será realizada na próxima semana, em Nova York.

+ O aviso sobre a ameaça da IA ao futuro da humanidade feito por vencedora do Nobel

Guterres também reconheceu os possíveis benefícios da tecnologia, citando avanços no desenvolvimento sustentável, na educação, na saúde e no enfrentamento das mudanças climáticas. Ele ressaltou, no entanto, que os próprios responsáveis pelo desenvolvimento dos sistemas mais avançados têm manifestado preocupação com a velocidade de sua evolução.

“O mundo não pode se dar ao luxo de uma corrida rumo ao abismo em matéria de segurança da IA”, disse.

A declaração ocorre em meio à intensificação dos apelos por mecanismos internacionais de supervisão da inteligência artificial, após incidentes e advertências de executivos do setor. Na terça-feira, 15, OpenAI, Anthropic e Google DeepMind anunciaram que trabalham na criação de um órgão para supervisionar os riscos associados à tecnologia.

Nesta quarta-feira, a presidente da Comissão Europeia, Ursula von der Leyen, anunciou que reuniria grandes atores do setor para apoiar os esforços específicos para desacelerar o desenvolvimento dos modelos de IA mais potentes.

Na última terça-feira, 8, Jacob Coxon, ex-funcionário da empresa de inteligência artificial Anthropic, responsável pelo Claude, publicou um texto em seu X (antigo Twitter) em que acusa a empresa de acreditar que a IA pode “matar a todos até o fim da década” e ignorar riscos iminentes no desenvolvimento de suas inteligências “super poderosas”.

Jacob Coxon é um ex-funcionário da Anthropic e da OpenAI, que trabalhou na área de pesquisa em tecnologia. Segundo seus próprios posts nas redes sociais, ele se demitiu na última terça-feira de seu cargo na Anthropic por discordar do caminho escolhido pela empresa para o desenvolvimento de suas inteligências artificiais. Em sua sequência de publicações, ele acusa as duas empresas de não serem responsáveis, e de estarem em uma “corrida em linha reta até uma super inteligência artificial que pode melhorar a si mesma, e apostar com nossas vidas”. 

Após a repercussão das postagens, alguns outros funcionários da Anthropic reagiram aos comentários de Coxon, confirmando suas acusações.

“Jacob está correto — nós realmente e sinceramente acreditamos que a IA pode matar todos os humanos! Eu pessoalmente acredito que [as chances] são mais de 10% durante a próxima década”, disse Evan Hubinger, diretor de alinhamento científico na criadora do Claude. “Eu acredito que a Anthropic está fazendo o melhor que pode, mas nós não temos um plano para alinhar a superinteligência e claramente não estamos no caminho para isso”, completou.