O temor de que a IA represente uma ameaça existencial voltou ao centro do debate — veja o que você precisa saber.

Os alertas sobre os possíveis riscos da inteligência artificial (IA) aumentaram a pressão nas últimas semanas por uma ação coordenada para desacelerar o desenvolvimento dessa tecnologia.

Declarações de pesquisadores que atuam ou atuaram na área de que a IA pode representar uma ameaça à humanidade acentuaram o sinal de alerta. Um deles, inclusive, chegou a dizer que existe mais de 10% de chance de a IA "matar todos os humanos".

Empresas gigantes deste setor nos Estados Unidos, como a OpenAI (responsável pelo ChatGPT) e Anthropic (responsável pelo Claude), têm pressionado congressistas americanos a criar regras para o setor.

Por outro lado, alguns críticos sugerem que esse movimento por regulamentação das empresas líderes de mercado possa servir para consolidar a vantagem dessas empresas sobre concorrentes atuais e futuros.

De qualquer forma, as declarações de grande repercussão aumentaram a preocupação em torno do impacto dessa tecnologia. A seguir, o que se sabe até agora.

Alguns pesquisadores de IA afirmam que há sinais preocupantes de que esses sistemas estejam avançando rápido demais em capacidade e poder.

Evan Hubinger, cientista da Anthropic, chamou a atenção ao afirmar que há mais de 10% de chance de a IA "matar todos os humanos" na próxima década.

Hubinger trabalha com alinhamento de IA, área voltada a incorporar princípios e valores éticos humanos aos sistemas de IA. Em outras palavras, a ideia é manter a tecnologia em sintonia com aquilo que as pessoas consideram importante.

Embora Hubinger tenha dito que o risco representado pelos sistemas atuais é "baixo", suas declarações vieram no momento em que outro pesquisador deixou a Anthropic por discordâncias acerca do rumo do desenvolvimento dessa tecnologia.

Esse pesquisador, Jacob Coxon, alertou que as pessoas responsáveis por desenvolver a tecnologia estavam perdendo o controle sobre ela.

Coxon disse à BBC que ele e outros funcionários da Anthropic estavam "genuinamente assustados" com a velocidade dos avanços e com o que isso poderia significar para a humanidade.

Essas preocupações são as mais recentes de uma longa série de temores sobre a possibilidade de a IA ameaçar a humanidade caso alcance ou supere as capacidades humanas.

Esse tipo de receio existe há décadas. Nos anos 1950, o cientista britânico Alan Turing (1912-54) escreveu que, se máquinas inteligentes se tornassem possíveis, elas poderiam assumir o controle.

Nos últimos anos, as principais empresas de IA entraram em uma corrida para desenvolver sistemas cada vez mais avançados, tanto em busca de lucro quanto com o objetivo de criar o que chamam de superinteligência — uma tecnologia ainda teórica, mais inteligente que os seres humanos.

Diferentemente dos sistemas e ferramentas que muita gente já usa no dia a dia para tarefas como escrever emails ou gerar vídeos, uma IA superinteligente seria capaz de lidar com atividades muito mais complexas.

A OpenAI e a Anthropic afirmam que pretendem desenvolver esse tipo de tecnologia de forma a beneficiar as pessoas e protegê-las de riscos à sua existência.

Mas alguns críticos dizem que as máquinas jamais conseguirão igualar de fato as capacidades humanas. Para eles, as empresas de IA exageram o que a tecnologia consegue fazer para ganhar projeção ou aumentar seus lucros.

Veja Agregador de Pesquisas da BBC News Brasil

Fim do Promoção Agregador de pesquisas

Pesquisadores, especialistas e executivos preocupados com o potencial da IA de colocar a humanidade em risco têm descrito cenários inquietantes.