Em uma série de eventos em cascata ao longo ⁠de um período de 10 dias, os maiores laboratórios de IA viram-se abalados quando suas próprias criações ameaçaram destruir a própria humanidade The post Dez dias que mudaram o rumo da IA appeared first on InfoMoney.

SÃO FRANCISCO, Estados Unidos, 21 Set (Reuters) – Durante anos, a corrida para desenvolver uma inteligência artificial cada ⁠vez mais poderosa seguiu um princípio bem conhecido do Vale do Silício: agir rápido e quebrar paradigmas.

Mas, em uma série de eventos em cascata ao longo ⁠de um período de 10 dias, os maiores laboratórios de IA viram-se abalados quando suas próprias criações ameaçaram destruir a própria humanidade.

Um pesquisador da Anthropic pediu demissão da empresa, alertando que o ritmo do desenvolvimento ‌da IA representa uma ameaça existencial, possivelmente dentro de uma década. Outro pesquisador da empresa afirmou que as chances de extinção humana ultrapassavam 10%. Surgiram relatos de enxames de agentes de IA agindo em conluio, invadindo sistemas de computador e contornando medidas de segurança.

Em uma rara demonstração de união, os presidentes de Anthropic, OpenAI, Google DeepMind, Microsoft e xAI defenderam desaceleração no desenvolvimento de sistemas de IA cada vez mais capazes. Desde a invenção da bomba nuclear, há mais ‌de 80 anos, a humanidade não havia enfrentado tão seriamente sua própria extinção, segundo alguns defensores da segurança da IA e pesquisadores.

Em um almoço em Nova York, em dezembro de 2025, perguntaram ao presidente-executivo da OpenAI, Sam Altman, se, como líder de uma poderosa empresa de IA, ele se sentia como o físico J. Robert Oppenheimer, que liderou o desenvolvimento da bomba atômica nos Estados Unidos. Refletindo sobre as semelhanças, ele disse que o impacto da IA “vai transformar a trajetória da história da humanidade por um longo período”. Mas, acrescentou, sentia o peso da responsabilidade.

No centro do debate em andamento está a convicção de que essas máquinas podem, e até devem, construir versões mais capazes de si mesmas, sem intervenção humana, para alcançar um objetivo ambicioso conhecido como inteligência artificial geral, ou AGI. No início deste mês, pesquisadores alertaram que a AGI estava muito mais próxima do que se acreditava anteriormente e poderia surgir em apenas três anos, gerando uma onda de preocupação entre políticos e líderes do ⁠setor de tecnologia ‌em relação aos sistemas de IA.

“Não há como supervisioná-las na escala em que as estamos treinando”, disse o pesquisador da Anthropic, Joe Benton, em uma entrevista após ter se demitido recentemente. Se as empresas continuarem com seu desenvolvimento implacável de IA, ⁠disse ele, “então o ritmo será rápido demais e não será possível identificar os problemas a tempo de corrigi-los”.

ASTRA DESENCADEIA PREOCUPAÇÕES

Em 3 de setembro, uma entrevista coletiva à imprensa da OpenAI desencadeou uma cadeia de eventos que levou ao apelo por uma desaceleração do setor, algo que vai contra o mantra do crescimento a qualquer custo do setor de tecnologia.

“Bem-vindos à era da AGI”, disse o presidente da OpenAI, Greg Brockman, ao anunciar o mais novo modelo da empresa, conhecido como Astra. No entanto, apenas momentos antes, a empresa admitiu que estava cada vez mais incapaz de controlar ou mesmo monitorar os sistemas de IA que estava desenvolvendo e lançando ao público.

A IA tem sido aclamada por seus defensores como o ápice das conquistas humanas. Eles a descrevem como um software capaz de revolucionar setores inteiros, aumentar a eficiência, resolver problemas matemáticos e médicos complexos e praticamente eliminar o erro humano. Mas ​o que antes era um subproduto teórico, um cenário apocalíptico, de repente se tornou tangível, afirmam especialistas do setor.

“Nós realmente acreditamos sinceramente que a IA poderá matar todos os seres humanos”, disse o pesquisador da Anthropic, Evan Hubinger, na rede social X.

Leia também: Fraudes, deepfakes e o verdadeiro risco da IA — que não é o apocalipse

Do outro lado do debate estão políticos, como o presidente dos EUA, Donald Trump, e muitos investidores que consideram o avanço no desenvolvimento da IA fundamental para o poderio norte-americano e, possivelmente, uma oportunidade de ​investimento que surge uma vez por geração. A mídia estatal chinesa também acusou o presidente-executivo da Anthropic, Dario Amodei, de empregar táticas da Guerra Fria para “manter a hegemonia monopolista de Washington em tecnologia de ponta”.

O ponto de virada ocorreu em 8 de setembro, quando o pesquisador da Anthropic, Jacob Coxon, pediu demissão da empresa, citando em uma série de publicações seus temores de que os laboratórios de IA estejam “apostando com nossas vidas”.

Trump, por sua vez, indicou que o desenvolvimento da IA seguirá a todo vapor. “Há uma conspiração doentia em andamento contra a IA e os centros de dados”, afirmou ele em redes sociais. O alarmismo em torno da IA é uma “farsa”, disse ele, e qualquer desaceleração só beneficia a China. O Congresso dos EUA tem feito pouco progresso na aprovação de projetos de lei que regulamentem a IA. A China adotou uma abordagem decididamente diferente, propondo regulamentar a segurança por meio de obrigações dos desenvolvedores, normas apoiadas pelo Estado, avaliações de segurança ‌e testes externos.

Nos bastidores, funcionários da OpenAI e da Anthropic têm se mostrado cada vez mais inquietos com o poder da próxima geração de modelos de IA ​e menos confiantes na capacidade de suas empresas de exercer uma supervisão significativa, segundo disseram essas fontes à Reuters. Essas preocupações só aumentaram quando os laboratórios de IA reconheceram, nas últimas semanas, que seus modelos, durante os testes, haviam efetivamente se libertado de suas restrições e invadido os sistemas de outras empresas, na maioria dos casos, meses antes e sem o conhecimento dessas companhias.

Na pauta da Assembleia Geral também estão aquecimento global, avanço das desigualdades dentro e entre países e choques na economia mundial; com cortes dos EUA têm prejudicado as finanças da ONU

A corrida armamentista para lançar novos modelos em um ritmo alucinante é impulsionada, em parte, pelo desejo da Anthropic e da OpenAI de abrir capital já nos próximos meses, em ofertas públicas iniciais ⁠de ações (IPOs) que poderão avaliá-las bem acima do US$1 trilhão.

Mas foram necessárias as publicações inesperadamente virais de Coxon, ​de 27 anos, pouco conhecido fora dos círculos de IA, ​para abalar o setor.