Andrew Ng rejeita alertas de extinção por IA e defende foco em segurança prática, enquanto laboratórios e governos discutem regulação e ritmo de desenvolvimento. O post Cofundador do Google Brain diz que o apocalipse da IA está mais para ficção científica apa…

Principais destaques

Andrew Ng não comprou a ideia de que a inteligência artificial esteja prestes a colocar a humanidade diante de um botão vermelho.

Em entrevista à Bloomberg TV em 17 de setembro, o pioneiro em IA classificou os alertas de que a tecnologia poderia causar a extinção humana como “muito mais ficção científica do que ciência”.

A fala chega justamente quando nomes importantes do setor voltaram a elevar o tom sobre os riscos de modelos cada vez mais poderosos.

Ng, cofundador do Google Brain e da Coursera, disse estar “bastante consternado nas últimas duas semanas” com a nova onda de alertas vindos de executivos e pesquisadores.

Para ele, não se trata apenas de uma discussão técnica.

A crítica é particularmente relevante porque Ng não está defendendo uma IA sem riscos.

Ele reconhece problemas concretos, incluindo ameaças à cibersegurança. A diferença está em onde colocar o foco.

Em vez de concentrar esforços em cenários de extinção, ele defende uma abordagem mais próxima da engenharia tradicional: testar sistemas, colocá-los em ambientes controlados e corrigir falhas conforme elas aparecem.

💡 A virada de Ng: o problema, segundo ele, deveria ser tratado como uma coleção de desafios práticos de engenharia, e não como uma previsão de fim da humanidade.

O momento escolhido para a declaração não é trivial.

O setor de IA está cada vez mais dividido sobre a velocidade com que os chamados modelos de fronteira devem continuar evoluindo.

Jacob Coxon, ex-pesquisador da Anthropic e da OpenAI, pediu demissão publicamente neste mês. Ele acusou as duas empresas de “correr em direção a uma IA superinteligente” e de “jogar com nossas vidas”.

Depois, Dario Amodei, CEO da Anthropic, e Sam Altman, CEO da OpenAI, defenderam esforços coordenados para desacelerar o desenvolvimento.

🔎 O cenário mais extremo: Amodei chegou a alertar que enxames de agentes de IA poderiam, em questão de meses, “ser capazes de tomar conta de toda a internet com uma botnet persistente”.

Geoffrey Hinton, vencedor do Nobel, também pediu cautela. Em entrevista à CBS News em 17 de setembro, ele afirmou que a IA “vai fugir ao controle a menos que façamos algo”.

De um lado, portanto, aparecem alertas sobre sistemas que poderiam adquirir capacidades difíceis de controlar.

Do outro, Ng vê o risco de transformar essas possibilidades em uma justificativa para frear uma tecnologia que ainda precisa ser desenvolvida e testada.

Esse é um dos pontos mais interessantes do argumento.

Para Ng, pedir uma desaceleração ampla do desenvolvimento não necessariamente significa dedicar mais recursos à segurança. Pode acontecer justamente o contrário.