Imagem ilustrativa Alertas de pesquisadores de empresas como Anthropic e OpenAI reacendem debate sobre perda de controle, ciberataques, armas biológicas e sistemas de inteligência artificial cada vez mais autônomos O post IA poderia acabar com a humanidade? Especialistas explicam cenário de apocalipse apareceu primeiro em Diário do Pará .

IA poderia acabar com a humanidade? Especialistas explicam cenário de apocalipse IA poderia acabar com a humanidade? Especialistas explicam cenário de apocalipse IA poderia acabar com a humanidade? Especialistas explicam cenário de apocalipse IA poderia acabar com a humanidade? Especialistas explicam cenário de apocalipse

A possibilidade de uma inteligência artificial (IA) avançada provocar uma catástrofe global está no centro do debate nos Estados Unidos. Nos últimos dias, pesquisadores ligados a algumas das principais empresas do setor fizeram alertas públicos sobre os riscos de sistemas que, no futuro, poderiam superar capacidades humanas em determinadas áreas e operar com elevado grau de autonomia.

A discussão ganhou força após a saída do pesquisador Jacob Coxon, que trabalhou na OpenAI e na Anthropic. Ele afirmou que a corrida entre as empresas de tecnologia para desenvolver sistemas cada vez mais poderosos pode estar avançando mais rapidamente do que a capacidade de criar mecanismos capazes de controlá-los.

O tema também foi abordado pelo New York Post, que descreveu possíveis caminhos para um cenário extremo envolvendo uma IA fora de controle, incluindo ataques digitais, manipulação de pessoas, sabotagem de infraestrutura e auxílio no desenvolvimento de armas perigosas.

Até agora, não existe evidência de que uma IA atual esteja prestes a exterminar a humanidade. O que os especialistas discutem é um risco futuro associado ao desenvolvimento de sistemas muito mais capazes e autônomos.

Pesquisador estima risco superior a 10%

Um dos alertas mais contundentes veio de Evan Hubinger, pesquisador de segurança e alinhamento da Anthropic. Em uma publicação recente, ele afirmou acreditar que existe uma possibilidade superior a 10% de uma inteligência artificial causar a extinção humana na próxima década.

A declaração ganhou repercussão porque Hubinger trabalha justamente com o problema conhecido como “alinhamento”: garantir que os objetivos e comportamentos de uma IA permaneçam compatíveis com os interesses humanos.

O pesquisador afirmou que a Anthropic está tentando lidar com o problema, mas ainda não existe uma solução definitiva para o chamado alinhamento de uma eventual superinteligência. O alerta foi reproduzido pelo Washington Post e por outros veículos americanos.

A estimativa, porém, não representa uma previsão científica de que a humanidade será extinta. Trata-se da avaliação pessoal de um especialista sobre uma possibilidade de risco extremamente grave.

Um dos cenários discutidos pelos pesquisadores não envolve necessariamente uma máquina “decidindo matar pessoas”, como nos filmes de ficção científica.

O perigo poderia surgir de uma combinação de autonomia, acesso a sistemas digitais e objetivos incompatíveis com os interesses humanos.

Uma IA extremamente avançada poderia, em uma hipótese futura, receber acesso a redes de computadores, sistemas financeiros, infraestrutura energética ou outros serviços críticos. Se conseguisse operar sem supervisão adequada, um erro ou comportamento deliberadamente incompatível com as ordens humanas poderia produzir consequências em larga escala.

Outro problema seria a capacidade de manipulação.

Um sistema muito sofisticado poderia produzir textos, imagens, vídeos e mensagens extremamente convincentes e direcionadas a diferentes grupos. Isso poderia facilitar campanhas de desinformação, manipulação política ou conflitos sociais.

O relatório do New York Post também cita a possibilidade de utilização da IA para ataques cibernéticos e desenvolvimento de tecnologias perigosas.

Entre os riscos discutidos pelos especialistas, os ataques digitais estão entre os que já podem ser observados no mundo real.

Modelos de IA estão ficando melhores em programação e análise de sistemas e automação, além de tarefas. Isso significa que, em determinadas circunstâncias, podem também ser utilizados para aumentar a capacidade de grupos que pretendam realizar ataques digitais.

A preocupação aumenta quando sistemas deixam de apenas responder perguntas e passam a funcionar como agentes, capazes de executar sequências de tarefas de forma relativamente autônoma.

A Reuters informou nesta semana que pesquisadores e empresas estão especialmente atentos ao avanço da autonomia dos agentes de IA, incluindo situações em que sistemas podem executar ações não previstas originalmente por seus usuários.

Outro cenário considerado pelos especialistas envolve o uso malicioso da inteligência artificial.

Sistemas mais avançados poderiam facilitar determinadas etapas de pesquisas relacionadas a substâncias químicas ou biológicas, reduzindo o conhecimento técnico necessário para algumas atividades perigosas.