Rivais históricos se uniram para alertar sobre os perigos da inteligência artificial. A pergunta é: isso é alarme genuíno ou estratégia disfarçada?

Os três caras que passaram a última década brigando publicamente resolveram, no mesmo fim de semana, concordar que a inteligência artificial é perigosa demais. Mas, na verdade, tudo começou um pouco antes:

No dia 9 de setembro, Jacob Coxon, um pesquisador da Anthropic, pediu demissão depois de três anos ajudando a treinar LLMs lá e na OpenAI. Depois disso, ele escreveu no X que nenhuma das duas empresas está agindo de forma responsável. O post passou de 150 milhões de visualizações e fez mais de 20 parlamentares nos EUA pedirem regulação mais dura. Aí veio a parte boa para teorias da conspiração: em vez de soltar aquele comunicado corporativo padrão, Evan Hubinger, líder de ciência de alinhamento da Anthropic, respondeu dizendo que “Jacob está certo” e que ele mesmo estima que exista “mais de 10% de chance da IA matar todos os humanos na próxima década”.

Aí o Dario Amodei, CEO da bagaça, publicou um textão dizendo que a indústria precisa desacelerar o ritmo com que melhora as capacidades dos modelos de inteligência artificial. Poucas horas depois, Elon Musk respondeu no X “Dario is right”, e Sam Altman concordou com a ideia de dar a avaliadores independentes acesso aos sistemas. Demis Hassabis, do Google DeepMind, entrou na fila do abraço logo depois. Um consenso tão bonito que quase dá vontade de aplaudir. Ou não.

Vamos olhar o currículo dos preocupados. O caso do Dario Amodei é o mais interessante, porque ele não caiu de paraquedas nessa discussão. O cara é PhD em biofísica, passou pelo Google Brain, foi vice-presidente de pesquisa da OpenAI e fundou a Anthropic, em 2021, justamente com a promessa de construir uma empresa de IA mais segura, interpretável e controlável. Ou seja: diferente de outros personagens dessa história, ele tem um histórico real de preocupação com segurança. O problema é que esse histórico hoje está sentado em cima de uma das empresas mais valiosas e estratégicas da corrida global por inteligência artificial. Quando a empresa criada para ser a consciência moral da IA vira uma das protagonistas comerciais da própria corrida, a pergunta deixa de ser se o Dario está preocupado. A pergunta passa a ser: preocupado como cientista, como CEO ou como os dois ao mesmo tempo?

Já o Musk é o sujeito que, no breve período em que o ego dele permitiu ficar hierarquicamente abaixo de outra pessoa, teve nas mãos a chance de fazer algo bacana e escolheu justamente destruir o que era bom. O desmonte da USAID, feito por ele, cancelou mais de 80% da verba do órgão dos EUA que realizava programas humanitários. Essa canetada cortou acesso básico à saúde de cerca de 95 milhões de pessoas — e um estudo publicado na Lancet projeta que os cortes podem causar 14 milhões de mortes adicionais até 2030, quase um terço delas de crianças com menos de 5 anos. Esse mesmo homem, que propõe substituir imigrante por robô, agora está comovido com o destino da espécie.

Sam Altman, por sua vez, fundou uma organização sem fins lucrativos criada explicitamente para proteger a humanidade de uma superinteligência maligna e, no meio do caminho, concluiu que a humanidade estaria mais segura se ele transformasse esse projeto hippie em uma das empresas privadas mais valiosas do mundo.

Pra ser justo, o pedido não é pra parar a IA. É para regular o ritmo, com avaliadores externos, padrões comuns entre democracias e pressão coordenada sobre países autoritários, num plano explicitamente desenhado para não sacrificar a vantagem comercial e a liderança americana em IA.

Tudo isso ganha contornos ainda mais dramáticos quando olhamos para a bolha que se desenha no setor: investimentos astronômicos que continuam jorrando sem que o retorno financeiro atual dos produtos sequer chegue perto de cobrir essa conta. 

Do outro lado, a China respondeu chamando os alertas de alarmismo, o que faz total sentido quando quatro dos cinco modelos mais usados no mundo são chineses — empatando em qualidade, custando uma fração do preço e avançando a passos largos.

E tem outro ponto que eu sempre digo: dizer que a sua tecnologia é perigosa demais sozinha é a forma mais elegante que já se inventou para constatar que ela é poderosa demais para você não investir nela.

Não estou dizendo que o risco é invenção. Pode ser tudo verdade. O problema é que verdade e conveniência não são coisas mutuamente exclusivas. Quando o vendedor de fogo começa a falar de incêndio, o que interessa não é se ele está certo. É mais importante descobrir se ele também está vendendo extintor.