Uma recente onda de alertas sobre uma ameaça existencial da IA contra a humanidade foi recebida com ceticismo por executivos e investidores.

Todos os anos, em setembro, a nata de executivos do Vale do Silício se reúne no Palace Hotel de San Francisco para atrair investidores durante uma conferência organizada pelo banco de investimentos Goldman Sachs.

Na última semana, o mundo da inteligência artificial repercutiu as declarações do pesquisador Jacob Coxon após pedir demissão da empresa Anthropic.

O britânico de 27 anos, que trabalhou na OpenAI antes de se juntar à sua principal concorrente, disse na terça-feira (08/09) que as pessoas que trabalham no desenvolvimento da IA sabem da possibilidade de destruição da humanidade.

Eles estão "jogando com as nossas vidas", disse Coxon. "Em breve teremos sistemas sobrehumanos capazes de hackear qualquer coisa".

Coxon não é o primeiro especialista em IA a fazer alertas públicos do tipo. Nos últimos anos, funcionários de alto nível tanto da Anthropic quanto da OpenAI pediram demissão devido a preocupações com a segurança dos sistemas.

Alguns funcionários que continuam na Anthropic chegaram a fazer coro às palavras de Coxon.

"Acreditamos sinceramente que a IA pode exterminar todos os humanos! Pessoalmente, acho que essa possibilidade ultrapassará 10% na próxima década", publicou no X Evan Hubinger, pesquisador de segurança na Anthropic.

Embora Coxon tenha feito questão de dizer em suas postagens que os alertas "não eram marketing", alguns executivos e investidores do Vale do Silício reagiram com ceticismo.

Veja Agregador de Pesquisas da BBC News Brasil

Fim do Promoção Agregador de pesquisas

A Anthropic e a OpenAI estão se preparando para abertura de capital na bolsa que poderá bater recordes, e alguns no Vale do Silício sugerem que os recentes comentários sobre os perigos da IA podem ter sido planejados para sinalizar o poder desses produtos.

O chefe da Anthropic, Dario Amodei, foi alvo de críticas por afirmar que a tecnologia de IA poderia eliminar metade dos empregos de nível básico em escritórios e "testará quem somos como espécie".

Ele também pediu em um artigo publicado neste sábado (12/09) que o ritmo de desenvolvimento de modelos de inteligência artificial seja desacelerado e monitorado de perto.

Um dos palestrantes da conferência em San Francisco, o CEO do Grindr, George Arison, disse à BBC que os comentários de Coxon e de outros indicavam uma "visão de mundo anticivilização na Anthropic".

Ele os chamou de "perigosos" e disse que eles o levaram a instruir alguns engenheiros do aplicativo de encontros LGBTQ+ a pararem de usar a tecnologia da Anthropic.

"É irresponsável da nossa parte, como administradores do dinheiro dos nossos acionistas, confiar em uma empresa que faz o que esta empresa faz, em termos de suas declarações públicas", disse ele.

"Talvez eles realmente acreditem nisso", disse Arison. "Ou você poderia argumentar que eles estão dizendo isso porque é uma ótima maneira de angariar mais apoio dos investidores, já que a única maneira de justificar essas avaliações é afirmar: 'Vou dominar todos os setores e todos os empregos, e minha IA fará todo esse trabalho.'"

A Anthropic foi avaliada em US$ 965 bilhões (o equivalente a R$ 4,9 trilhões) em sua rodada de financiamento mais recente, realizada no início deste ano.

A BBC solicitou um posicionamento da Anthropic sobre as declarações.

O chefe da Nvidia, Jensen Huang, também discutiu os comentários de Coxon na conferência, segundo disseram à BBC várias pessoas que participaram do encontro. Huang teria classificado as falas de Coxon como falsas.