Autoridades do governo temem comprometer a liderança dos EUA sobre a China, uma vantagem desafiada por uma nova vanguarda de desenvolvedores chineses, incluindo a Moonshot AI The post Trump ignora visões catastróficas sobre IA para proteger liderança dos EUA …

(Bloomberg) – Em junho de 2024, durante uma parada de campanha em Las Vegas, o então candidato Donald Trump vislumbrou a tecnologia que viria a definir seu segundo mandato presidencial.

O cofundador da OpenAI, Greg Brockman, e o então diretor de operações, Brad Lightcap, mostraram ao republicano uma versão de pré-visualização da ferramenta de geração de imagens e vídeos Sora, da startup de inteligência artificial, um produto que já foi descontinuado. Trump e Brockman usaram a ferramenta para visualizar um campo de golfe na Lua, de acordo com pessoas familiarizadas com a reunião, que pediram anonimato para descrever uma interação privada.

Mas a reunião tomou um rumo mais sério. Trump levantou uma preocupação flagrante de segurança nacional: e se adversários estrangeiros usassem IA para se passar por ele? Brockman e a Lightcap garantiram-lhe que técnicas de mitigação de deepfakes, como a marca d’água, poderiam minimizar esses riscos, disseram as fontes.

Essa troca de palavras prenunciou o dilema que Trump enfrenta agora em relação à IA: como fomentar uma tecnologia que sustentou o crescimento econômico dos EUA e, ao mesmo tempo, mitigar as preocupações com a segurança levantadas por uma onda alarmante de ataques cibernéticos por modelos de IA desonestos . Isso deixou os funcionários do governo lutando para equilibrar a promoção da adoção da IA ​​com o enfrentamento dos riscos imprevisíveis de segurança cibernética, de acordo com pessoas familiarizadas com as deliberações internas.

Ao se preparar para uma cúpula crucial em Washington neste mês com o líder chinês Xi Jinping, tendo a segurança da inteligência artificial como um dos principais temas, Trump mantém uma postura de não intervenção.

A ordem presidencial de junho, em grande parte inócua, sobre cibersegurança em IA, tornou-se um símbolo da sua relutância em impedir investimentos tecnológicos na ordem das centenas de bilhões de dólares. Autoridades do governo temem comprometer a liderança dos EUA sobre a China, uma vantagem desafiada por uma nova vanguarda de desenvolvedores chineses, incluindo a Moonshot AI.

No entanto, a insistência de Trump em uma abordagem mais cautelosa foi testada pelas revelações de que modelos da OpenAI e da Anthropic PBC escaparam de ambientes de teste seguros e invadiram sistemas de outras empresas. Amplificando esses episódios, crescem os apelos dentro da indústria — pontuados esta semana pela renúncia de alto nível de um pesquisador da Anthropic devido a temores existenciais — para desacelerar o ritmo do desenvolvimento da IA.

O primeiro-ministro indiano Narendra Modi está hospedando o presidente russo Vladimir Putin, o presidente chinês Xi Jinping, o presidente iraniano Masoud Pezeshkian e colegas dos outros oito membros do BRICS

Mesmo em Wall Street, onde o boom da IA ​​impulsionou o mercado de ações em geral, alguns investidores proeminentes fizeram declarações alarmantes sobre o crescimento da tecnologia. Greg Jensen, co-diretor de investimentos da gigante de fundos de hedge Bridgewater Associates, alertou no podcast Odd Lots da Bloomberg que talvez seja preciso que a IA “mate pessoas” para que alguém tente contê-la.

A paralisia política pode ter consequências graves. Quanto mais tempo os funcionários do governo permanecerem indecisos sobre como ou se devem regulamentar a IA, maior a probabilidade de as empresas avançarem a passos largos sem diretrizes comuns, mesmo com um número crescente de executivos a exigirem a sua implementação. O CEO da OpenAI, Sam Altman, disse aos funcionários esta semana que a empresa está a considerar a desaceleração do desenvolvimento e espera que os seus concorrentes façam o mesmo, segundo a Bloomberg News .

Em declarações públicas, Trump tem, em sua maioria, ignorado novas restrições à IA, concentrando-se em manter-se à frente da China e exaltando os benefícios da tecnologia. Questionado por repórteres na quinta-feira se tinha alguma preocupação com a possibilidade de a IA levar à extinção da humanidade, Trump respondeu: “Não, não tenho nenhuma”.

“Tenho receio de que, se não vencermos a corrida pela IA, ficaremos numa situação muito difícil”, disse o presidente. “Estamos à frente da China neste momento por uma margem considerável. Diria que um ano, o que, sabe, é bastante tempo.”

Dentro do governo, uma disputa interna vem se intensificando há meses sobre como lidar com a IA, especialmente com as questões de segurança ainda sem resposta. Desde que a Anthropic alertou, em abril, que seu sistema Mythos era capaz de encontrar vulnerabilidades de computador até então desconhecidas e que só poderia ser compartilhado com parceiros de confiança, os principais assessores de Trump têm debatido maneiras de abordar os principais problemas de segurança da IA.

De um lado, defendendo proteções mais robustas, estão o Secretário do Tesouro, Scott Bessent, e o Diretor Nacional de Segurança Cibernética da Casa Branca, Sean Cairncross, disseram as fontes, que falaram sob condição de anonimato para descrever deliberações confidenciais. Após os alertas da Anthropic sobre o Mythos, Bessent convocou uma reunião com os principais líderes de Wall Street para ouvir suas preocupações sobre a exposição do setor financeiro, enquanto Cairncross manteve contato próximo com especialistas em segurança cibernética alarmados com as capacidades do novo modelo, disseram as fontes.

As ações da Enflame dispararam 234% em seu primeiro dia de negociação na sexta-feira em Xangai, elevando a fortuna individual de Zhao e Zhang para US$ 2,5 bilhões cada

Outros no círculo de Trump — liderados pelo conselheiro de ciência e tecnologia da Casa Branca, Michael Kratsios, e pelo ex-czar da IA, David Sacks — apoiaram a visão da indústria de tecnologia de que as regulamentações correm o risco de sufocar a inovação.

Sacks, um investidor de capital de risco que mantém contato com Trump, alertou que praticamente quaisquer medidas de salvaguarda correriam o risco de consolidar o poder nas mãos de algumas grandes empresas de IA, ao mesmo tempo que dariam à China a oportunidade de ultrapassar os EUA. Ele também insistiu que as leis de responsabilidade civil existentes são suficientes para incentivar as empresas a minimizar os danos.

As tensões entre os dois lados explodiram semanas antes de Trump assinar sua ordem executiva sobre segurança de IA em 2 de junho. Versões iniciais da diretiva obrigariam as empresas de IA a compartilhar seus modelos antes do lançamento, disseram as fontes. Mesmo antes do início efetivo da elaboração da ordem, alguns funcionários, incluindo o vice-presidente JD Vance, já haviam sugerido o uso da Lei de Produção de Defesa para obrigar as empresas a divulgar informações e trabalhar com agências de segurança nacional, acrescentaram as fontes.

A ideia de Vance surgiu na sequência de uma ameaça do Secretário de Defesa Pete Hegseth de invocar a lei da época da Guerra Fria como forma de pressionar o Pentágono na acirrada disputa contratual com a Anthropic sobre as salvaguardas adicionais que a empresa buscava para o uso militar de suas ferramentas de IA — um confronto que complicou os esforços para criar uma estrutura para mitigar os riscos cibernéticos.

Um funcionário do governo, que falou sob condição de anonimato, disse que os assessores de Trump continuam trabalhando com a indústria no desenvolvimento da estrutura. Em um comunicado, um porta-voz da Casa Branca afirmou: “Toda a equipe do presidente está trabalhando em estreita colaboração para equilibrar inovação e segurança na formulação de políticas de IA”.