Altman descreveu a funcionários da OpenAI três finais para a corrida da IA: agência global, fusão dos laboratórios ou um vencedor que corta o acesso a chip...

Sam Altman, CEO da OpenAI, descreveu a funcionários, segundo o site The Information, três "cenários finais" para tentar tornar segura a corrida rumo à chamada superinteligência - uma IA mais capaz do que humanos em quase tudo. O tom mistura urgência e desconforto: as saídas vão de um "fiscal global" a um mundo em que um único vencedor concentra poder demais.

*Criar uma organização internacional nos moldes da AIEA (Agência Internacional de Energia Atômica), com poder para impor padrões de segurança a quem desenvolve os modelos mais avançados.

*Na prática, isso significaria inspeções, auditorias e monitoramento de recursos usados para treinar IA (como capacidade de computação e consumo de energia).

*O plano depende de cooperação entre países - inclusive os que também correm para fazer modelos de ponta, como a China - e, segundo duas fontes ouvidas pelo The Information, seria a opção que Altman pareceu preferir.

*Inspirado numa ideia antiga de Demis Hassabis, chefe do Google DeepMind, de criar algo como o CERN (o grande centro de pesquisa europeu) para IA.

*Na versão descrita por Altman, os principais laboratórios se fundiriam em uma única entidade - ou trabalhariam sob um mesmo "guarda-chuva" - que forneceria modelos para países que topassem cooperar.

*A lógica é reduzir a corrida "cada um por si" e concentrar o desenvolvimento em um arranjo coletivo, mas isso exigiria um nível de coordenação entre empresas e governos que hoje parece distante.

*Batizado em referência ao teórico de segurança em IA Eliezer Yudkowsky, esse cenário descreve um laboratório que chega a uma IA que melhora a si mesma e, com isso, acumula tanto poder econômico que passa a negar capacidade de computação aos concorrentes.

*Na versão mais extrema, esse vencedor conseguiria até "desligar" ou inviabilizar a computação dos outros - Altman teria usado a expressão "derreter as GPUs de todo mundo" e dito que "obviamente" acha essa opção "terrível", segundo o The Information.

*Altman teria citado o cenário "por completude", mas uma fonte disse ao site The Decoder que a fala foi lida como uma cutucada em um concorrente, por causa de ligações de Yudkowsky com pessoas da Anthropic.

Os três "finais" descritos por Altman ajudam a traduzir um dilema que parece abstrato, mas é bem concreto: quem manda quando a IA fica poderosa demais? No fundo, os dois primeiros cenários tentam criar um "síndico" para um prédio em que todo mundo quer reformar o próprio apartamento ao mesmo tempo - só que, aqui, a reforma pode afetar o prédio inteiro (e levar o resto do mundo junto).

O problema é que coordenação global e cooperação entre rivais não combinam com a pressão do mercado. Os relatos dizem que Altman também afirmou internamente que a OpenAI não pode simplesmente tirar o pé da corrida agora, num momento em que OpenAI e Anthropic caminham para abrir capital. Ou seja: a empresa fala em freio, mas pisa no acelerador para não ficar para trás.

Já o terceiro cenário funciona como um alerta do que acontece quando não existe regra clara: o "vencedor leva tudo" vira uma tentação. E aí entra a crítica de Mark Zuckerberg (CEO da Meta) e Jensen Huang (CEO da Nvidia), citados pelo The Decoder: regras desse tipo "protegeriam principalmente os jogadores já estabelecidos da concorrência". Em português direto: dependendo de como for desenhada, a regulação pode virar uma catraca que impede novos competidores - e concentra ainda mais poder em quem já tem dinheiro, chips e dados.

Também vale separar o que é fato do que é leitura de bastidor. O Dealroom.co lembra que a ideia de que o rótulo "plano Eliezer" seria uma provocação à Anthropic é interpretação de funcionários, não algo que Altman tenha dito explicitamente. Ainda assim, o simples fato de esse tipo de suspeita circular mostra como "segurança" e "estratégia de mercado" estão cada vez mais misturadas na corrida da IA.

Texto que relata acontecimentos, baseado em fatos e dados observados ou verificados diretamente pelo jornalista ou obtidos pelo acesso a fontes jornalísticas reconhecidas e confiáveis.

O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.