Evan Hubinger fez o mais recente de uma série de alertas cada vez mais contundentes sobre a ameaça à segurança representada pela inteligência artificial

Um dos principais pesquisadores de segurança da Anthropic alertou que a inteligência artificial está avançando tão rapidamente que, na avaliação dele, há mais de 10% de chance de que a tecnologia "possa matar todos os humanos" na próxima década.

Em uma publicação no X, Evan Hubinger afirmou que o risco representado pelos modelos que existem atualmente é "baixo", mas disse estar "preocupado" com a possibilidade de a tecnologia se desenvolver e melhorar a si mesma em breve a ponto de representar um risco existencial para a humanidade.

Formado em Matemática e Ciência da Computação pelo Harvey Mudd College, Hubinger passou pelo MIRI (Machine Intelligence Research Institute) e pela OpenAI, trabalhando em pesquisa de segurança de IA.

Ele não explicou como acredita que sistemas de inteligência artificial poderiam, no futuro, levar à extinção da humanidade.

Mas os comentários são o mais recente de uma série de alertas cada vez mais contundentes sobre a IA, em um debate que vem mudando de foco: de se a tecnologia realmente representa um risco para qual seria a dimensão desse risco.

A manifestação de Hubinger foi uma resposta a outra publicação no X, feita por Jacob Coxon, pesquisador de IA que acaba de deixar a Anthropic e que já trabalhou na OpenAI.

"Nenhuma das duas empresas está agindo de forma responsável", escreveu Coxon.

"Em breve, serão sistemas que superam os humanos em capacidade, capazes de invadir qualquer coisa, revolucionar qualquer área da noite para o dia e adquirir poder e recursos reais."

Veja Agregador de Pesquisas da BBC News Brasil

Fim do Promoção Agregador de pesquisas

A OpenAI foi procurada para comentar.

Dame Wendy Hall, cientista da computação que assessora a ONU sobre IA, disse à BBC que ficou "chocada" com as publicações de Hubinger e Coxon nas redes sociais.

Ela disse ao programa World at One, da BBC Radio Four, que parte disso poderia ser "relações públicas e marketing", enquanto Anthropic e OpenAI corriam para realizar suas tão aguardadas estreias no mercado de ações.

Mas acrescentou: "Por que alguém iria querer dizer isso? Eu pediria aos investidores que não investissem nesta empresa se esse for o sistema de valores dela."

A renúncia levou Darren Jones, ex-secretário-chefe do Tesouro e ex-secretário-chefe de Sir Keir Starmer, a escrever uma carta aberta ao primeiro-ministro Andy Burnham pedindo um novo tratado multinacional para o desenvolvimento seguro da IA.

Ele disse à BBC que os governos precisavam se unir para "colaborar" na definição de como deveria ser um tratado baseado no desenvolvimento da superinteligência.

"A menos que os governos levem esses alertas suficientemente a sério e ajam, o ritmo do desenvolvimento pode fazer com que acabemos enfrentando problemas antes mesmo de começarmos a avaliar se isso é ou não uma questão para nós", disse.

Separadamente, o Financial Times informou que a Anthropic reteve seu modelo mais recente do Instituto de Segurança de IA do Reino Unido (AISI), um dos principais órgãos do mundo na avaliação dos riscos da IA.

A Anthropic se recusou a comentar as publicações de seus funcionários ou a situação com o AISI.

Um porta-voz do Cabinet Office não comentou se o modelo mais recente havia sido retido do AISI. Em vez disso, disse que o órgão "continua colaborando estreitamente com parceiros do setor, incluindo a Anthropic, para tornar os modelos mais seguros"