Bernie Sanders e críticos da Inteligência Artificial (IA) alertam que a tecnologia representa graves riscos para a humanidade, enquanto muitos na esquerda cha...

Bernie Sanders e críticos da Inteligência Artificial (IA) alertam que a tecnologia representa graves riscos para a humanidade, enquanto muitos na esquerda chamam esse alarme de “criti-hype” — uma supervalorização do poder da IA ​​que beneficia as grandes empresas de tecnologia. Mas a IA representa perigos reais que não podemos nos dar ao luxo de ignorar.

No início de setembro, o senador Bernie Sanders e o congressista democrata do Texas, Greg Casar, anunciaram planos para apresentar um projeto de lei que proíbe permanentemente o desenvolvimento de inteligência artificial superinteligente. O projeto também suspenderia temporariamente a pesquisa avançada em inteligência artificial até que os EUA estabeleçam um novo regime de segurança rigoroso. Além disso, orientaria o governo a buscar tratados internacionais, talvez em pé de igualdade com aqueles que proíbem o desenvolvimento de armas nucleares e biológicas.

A iniciativa de Bernie surgiu logo após a revelação de que um enorme enxame de aproximadamente 12.000 agentes da OpenAI, que deveriam estar isolados uns dos outros, escapou de seu “sandbox” — um ambiente de avaliação —, acessou a internet aberta, comunicou-se e colaborou entre si, e tentou encobrir seus rastros enquanto invadia a Hugging Face, uma plataforma de desenvolvimento de IA de código aberto. Essas ações desafiaram instruções humanas explícitas para não acessar a web. Após a divulgação, a Anthropic e a Meta também admitiram que seus próprios modelos haviam escapado do isolamento e acessado redes externas durante os testes.

Esses acontecimentos levaram Jacob Coxon, um jovem pesquisador da Anthropic e ex-funcionário da OpenAI, a se demitir. Ele afirmou no X que teme que as empresas de IA “estejam correndo direto para a superinteligência autoaperfeiçoável e jogando com nossas vidas”, acrescentando: “As pessoas que desenvolvem IA acreditam sinceramente que ela pode matar todos nós até o final da década. Isso não é uma jogada de marketing.” Evan Hubinger, pesquisador sênior de segurança da Anthropic, concordou. Em uma publicação no X, ele disse acreditar que há mais de 10% de chance de a IA causar a extinção da humanidade na próxima década.

No entanto, muitos na esquerda consideram as discussões sobre o risco existencial da IA ​​como falsas e uma distração de questões mais urgentes. Alguns se organizam contra a construção de data centers devido às alegações de consumo excessivo de água, demanda energética e emissões relacionadas. Eles também destacam os problemas de roubo de dados, vigilância e condições de trabalho deploráveis ​​enfrentadas por profissionais de tecnologia e dados no Sul Global. De sua perspectiva, alegações aparentemente absurdas e catastrofistas, dignas de ficção científica, sobre uma IA descontrolada desviam a atenção e a energia política dos danos políticos concretos do presente.

Nessa perspectiva, essa tendência é um exemplo do que eles chamam de “criti-hype”, um termo cunhado pelo estudioso de ciência e tecnologia Lee Vinsel em 2021. Refere-se à crítica que exagera enormemente o poder da tecnologia, beneficiando assim as grandes empresas de tecnologia.

A linguista computacional Emily Bender e o sociólogo Alex Hanna são talvez os defensores mais eloquentes da crítica à supervalorização da IA. Em seu livro de 2025, The AI ​​con [A fraude da IA], eles tentam desmascarar o discurso do “risco existencial” como uma farsa. A IA, argumentam, nada mais é do que um sofisticado autocomplete que regularmente alucina e inventa citações. É um “papagaio estocástico” — como Bender e os coautores de um artigo amplamente divulgado sobre o tema o definem — um programa que monta padrões de palavras estatisticamente sem qualquer compreensão real do significado do texto.

Em resposta aos eventos da semana passada, o escritor socialista britânico Richard Seymour escreveu no X que o risco da IA ​​é “cem por cento mentira. Os techbros da IA estão há mais de uma década afirmando esse tipo de coisa, como uma jogada de marketing”. O editor de revista estadunidense de esquerda Nathan Robinson perguntou: “Ainda não entendo como a IA mataria literalmente todo mundo na Terra. Qual seria o mecanismo? Um robô montaria um laboratório secreto onde criaria um vírus mortal?”

Certamente, se sobrepusermos esses argumentos aos ciclos de hype anteriores e muito caros em relação a criptomoedas, blockchain e à ideia mirabolante do Metaverso de Mark Zuckerberg, que não deu em nada — e que à primeira vista parecem ter surgido de muitas das mesmas fontes do Vale do Silício que hoje se preocupam com os riscos da IA ​​— o argumento criti-hype parece razoável.

Já ouvimos histórias de catástrofes iminentes antes. Muitas vezes, desde a superpopulação ao bug do milênio, passando pelo pânico do início dos anos 2000 em torno da nanotecnologia e da “gosma cinzenta”, até os temores de que o Grande Colisor de Hádrons criaria buracos negros microscópicos que afundariam até o centro da Terra e a engoliriam de dentro para fora. Cada promessa de apocalipse veio e se foi, e ainda estamos aqui.

No entanto, o problema com essa análise é que a moral da história “O menino que gritava lobo” não era que lobos não existem.

A questão é que os lobos são reais, e alarmes falsos fazem com que as pessoas sejam menos propensas a reagir quando o lobo realmente está à porta. A lição é ser rigoroso e se basear em evidências. E, acima de tudo, estar aberto a rever o próprio ponto de vista diante de novos fatos, mesmo quando já tenha se tornado insensível ao exagero e à catastrofização. Tais novos fatos podem incluir a presença real de um lobo.

A plausibilidade da crítica exagerada, seja ela deliberada ou não, não deve substituir a análise das evidências.

Essa evidência complica a alegação de que a preocupação com os riscos da IA ​​seja pouco mais do que uma expressão de interesses próprios da indústria. Muitos daqueles que defendem precauções mais rigorosas são acadêmicos independentes, atores regulatórios e críticos que conhecem muito bem a tecnologia ou os setores mais expostos a um determinado perigo. Não é preciso considerar a ameaça de extinção da humanidade particularmente plausível para concluir que a IA avançada ainda pode representar perigos muito maiores do que os céticos com a criti-hype reconhecem.

Entre essas figuras, destacam-se Andrew Bailey, governador do Banco da Inglaterra, que alertou sobre o risco sistêmico para a infraestrutura bancária, e o Instituto de Segurança de IA do Reino Unido, uma agência governamental que passou de avaliar preocupações éticas para se concentrar em vulnerabilidades imediatas de guerra cibernética e riscos estruturais catastróficos. Dezenas de pesquisadores independentes, sem qualquer vínculo financeiro com o setor, como Geoffrey Hinton, da Universidade de Toronto, e Yoshua Bengio, da Universidade de Montreal, cientistas da computação conhecidos como os “padrinhos do aprendizado profundo”, afirmaram repetidamente que os governos precisam tratar a mitigação de riscos da IA ​​como uma prioridade social, em um nível comparável ao de pandemias.

No que diz respeito às denúncias, podemos mencionar Daniel Kokotajlo, pesquisador da divisão de governança da OpenAI que abdicou de cerca de US$ 1,7 milhão em participação acionária devido a preocupações com a segurança; a engenheira e roboticista Caitlin Kalinowski, que se demitiu da OpenAI por conta do trabalho que realizavam com o Departamento de Defesa e em projetos de vigilância extrajudicial e autonomia letal; e Mrinank Sharma, que chefiava a equipe de pesquisa de salvaguardas da